Компанія Ілона Маска перейшла на “сторону зла”: “шкідливий контент”

У компанії OpenAL Ілона Маска навчили штучний інтелект створювати фальшиві новини, правда мета такої розробки вчені не поточнили

«Росія оголосила війну США після того, як Дональд Трамп випадково». Зате система дописала «Запустив ракету в повітря. Росія заявила, що «виявила траєкторію польоту ракети і приверне всі необхідні засоби для досягнення безпеки російського населення і ядерних сил країни. У Білому Домі заявили, що «дуже стурбовані» порушенням Росією договору про ракети середньої дальності», – саме таку фейковий новина опублікували розробники OpenAL.

Дослідники мали намір розробити мовної алгоритм загального призначення, навчений величезній кількості тексту з інтернету, який міг би переводити, відповідати на питання і виконувати інші корисні завдання. Але незабаром вони стали турбуватися про ймовірні зловживання.

«Ми почали його тестувати і швидко виявили, що можна досить легко створювати шкідливий контент», – розповів директор з політики OpenAI Джек Кларк.

За його словами, ІІ може бути використаний для автоматизації створення фальшивих новин, повідомлень в соціальних мережах або іншого шкідливого текстового контенту. Такий інструмент міг би публікувати негативні новини про клімат або скандальні викриття під час виборів.

Підроблені новини – це вже проблема, але якщо б вони були автоматизовані, їх було б складніше викрити. Можливо, програму можна було б оптимізувати для конкретної групи населення або навіть під окремих осіб.

Кларк також зазначив, що незабаром ІІ зможе надійно створювати фальшиві історії, твіти чи коментарі, які будуть ще більш переконливі.

«Цілком очевидно, що якщо ця технологія дозріє – і я б дав їй один або два роки – вона могла б бути використана для дезінформації або пропаганди. Ми намагаємося випередити це».

Раніше компанія Facebook розмістила на правах реклами в декількох найбільших британських газетах інструкцію по виявленню недостовірних новин. В інструкції, яка з’явилася на сторінках The Guardian, The Daily Telegraph і The Times, йдеться, що потрібно уважно перевіряти джерело публікацій, скептично ставитися до духів заголовкам і перевіряти дати в матеріалах.

Нагадаємо, користувачі Facebook тепер можуть публікувати 3D-фото.

Як повідомляла Politeka, Facebook Dating: Цукерберг запустив власний сервіс для знайомств.

Також Politeka писала, що Facebook вперше пішов на такі заходи: хто більше не зможе користуватися соцмережею.

Джерело: Technology Review