Технологии уже превзошли человеческие слабости: чего ждать дальше

Александр Ханин вчера на сессии "Технологический фронтир цифровой трансформации" показал чувственное видео с конференции NVIDIA GTC 2020.

Называется видео "Я - искусственный интеллект", "I AM AI". В видео женским голосом AI от первого лица рассказывает о том, что он и лекарь, и визионер, и помощник, и строитель, и увлекательный рассказчик, и композитор. Очень убедительное видео, правильно настраивающее наши эмоции (видимо потому, что его также монтировали с помощью AI).

У меня же в голове при просмотре этого видео появились цитаты из недавно вышедшего на Netflix (который, как мы знаем, борется с нашим сном как с конкурентом и создаёт для нас правильную выдачу с помощью алгоритмов) фильма The Social Dilemma. В этом фильме бывшие сотрудники Facebook, Twitter, NVIDIA делятся с нами тем, что происходит прямо сейчас. Вот цитаты из фильма:

"Возможно самое опасное - это то, что технологии, стоящие за всем этим, развиваются в геометрической прогрессии. Грубо говоря с 1960-х годов до сегодняшнего дня мощность процессоров выросла в триллион раз. Ничто из того, что мы создали, не совершенствуется с такой скоростью. Автомобили стали - ну может в два раза быстрее. Развитие всего остального - незначительно. И, наверное, самое главное заключается в том, что наша человеческая физиология, наш мозг вообще не эволюционировали".
Randy Fernardo, NVIDIA Former Product Manager

"Когда речь идёт об AI, о том, что AI разрушит мир, вы представляете при этом Терминатора и Шварценеггера, дронов и думаете - именно так AI погубит человечество. Но люди упускают тот факт, что AI уже управляет миром сегодня".
Tristan Harris, Google Former Design Ethicist

"В этих компаниях (Google, Facebook, Twitter, Apple) небольшая группа человек, которые понимают, как работают AI системы. И даже они не обязательно до конца понимают, что произойдёт с конкретным контентом. То есть как люди мы почти потеряли контроль над этими системами, так как уже они управляют информацией, которую мы видим. Они управляют нами больше, чем мы ими".
Sandy Parakilas, Facebook Operations Manager

Посмотрите фильм, в нём много интересного. Я писал об этом уже несколько раз, но стоит напоминать себе. Ваше поведение настраивают, делают это достаточно результативно. Но вы не услышите это, не поймёте. Вряд ли этот текст увидит и прочитает много человек.

"Мы все с нетерпением ждём момента, когда технологии сокрушат человеческие силы и интеллект, и когда они пересекут точку сингулярности, заменят наши рабочие места и станут умнее людей. Это то, о чем все говорят, но есть гораздо более ранний момент, когда технологии превзойдут человеческие слабости. И я хочу заявить вам сегодня, что эта точка пересечена. Она является причиной ботов, зависимостей, информационной перегрузки, поляризации, радикализации, возмущения, тщеславия, всего того, что ведет к понижению статуса человека, понижению нашего внимания, наших отношений, вежливости, общественного поведения, того, что способствует деградации людей". Tristan Harris, 23 апреля 2019 года. Не похоже, что с момента выступления Тристана что-то изменилось. Не похоже, что мы чему-то учимся.

Восхищайтесь дальше возможностями AI. Создавайте эти возможности. Стоит при этом помнить, что человека остаётся всё меньше.