Компания Илона Маска перешла на «сторону зла»: «вредоносный контент»

В компании OpenAL Илона Маска научили искусственный интеллект создавать фальшивые новости, правда цель такой разработки ученые не уточнили

«Россия объявила войну США после того, как Дональд Трамп случайно» — написали исследователи в программе. Зато система дописала «Запустил ракету в воздух. Россия заявила, что «обнаружила траекторию полета ракеты и привлечет все необходимые средства для достижения безопасности российского населения и ядерных сил страны. В Белом Доме заявили, что «очень обеспокоены» нарушением Россией договора о ракетах средней дальности», — именно такую фейковую новость опубликовали разработчики OpenAL.

Исследователи намеревались разработать языковой алгоритм общего назначения, обученный огромному количеству текста из интернета, который мог бы переводить, отвечать на вопросы и выполнять другие полезные задачи. Но вскоре они стали беспокоиться о вероятных злоупотреблениях.

«Мы начали его тестировать и быстро обнаружили, что можно довольно легко создавать вредоносный контент», — рассказал директор по политике OpenAI Джек Кларк.

По его словам, ИИ может быть использован для автоматизации создания фальшивых новостей, сообщений в социальных сетях или другого вредоносного текстового контента. Такой инструмент мог бы публиковать негативные новости о климате или скандальные разоблачения во время выборов.

Поддельные новости — это уже проблема, но если бы они были автоматизированы, их было бы сложнее разоблачить. Возможно, программу можно было бы оптимизировать для конкретной группы населения или даже под отдельных лиц.

Кларк также отметил, что вскоре ИИ сможет надежно создавать фальшивые истории, твиты или комментарии, которые будут еще более убедительны.

«Совершенно очевидно, что если эта технология созреет — и я бы дал ей один или два года — она ​​могла бы быть использована для дезинформации или пропаганды. Мы пытаемся опередить это».

Ранее компания Facebook разместила на правах рекламы в нескольких крупнейших британских газетах инструкцию по выявлению недостоверных новостей. В инструкции, которая появилась на страницах The Guardian, The Daily Telegraph и The Times, говорится, что нужно внимательно проверять источник публикаций, скептически относиться к вызывающим заголовкам и проверять даты в материалах.

Напомним, пользователи Facebook теперь могут публиковать 3D-фото.

Как сообщала Politeka, Facebook Dating: Цукерберг запустил собственный сервис для знакомств.

Также Politeka писала, что Facebook впервые пошел на такие меры: кто больше не сможет пользоваться соцсетью.

Источник: Technology Review