Расцвет исскуственного интеллекта приведет к гибели Земли: люди теряют контроль над машинами

С расцветом машинного обучения программисты пишут все меньше традиционного кода – теперь машины учатся действовать самостоятельно без желания человека

Скоро необходимость писать для них инструкции в виде кода и вовсе отпадет – любой человек сможет научить свой гаджет чему угодно так же легко, как он учит собаку прыгать через барьер, пишет Хвиля.

Возможно, программисты, которые сегодня так востребованы, вскоре станут никому не нужны. Ответить на эти и другие вопросы попытался редактор Wired Джейсон Танц.

Код логичен. Код подвержен взлому. Код – это судьба. Таковы основные постулаты (и самореализующиеся пророчества) жизни в цифровую эпоху. Перефразируя венчурного инвестора Марка Андрессена: когда софт поглотил мир, мы окружили себя машинами, которые конвертируют наши действия, мысли и эмоции в данные – сырье, которым манипулируют армии инженеров. Мы дошли до того, что саму жизнь воспринимаем как серию инструкций, которые можно обнаружить, эксплуатировать, оптимизировать, возможно, переписать.

Компании используют код, чтобы понять наше самое интимное. Facebook Марка Цукерберга зашел настолько далеко, что предположил, будто существует “фундаментальный математический закон, который лежит в основе человеческих отношений, и управляет тем, о ком и о чем мы больше всего заботимся”. В 2013 году Крэйг Вентер объявил, что спустя десятилетие после декодировки человеческого генома он начал писать код, который позволит ему создавать синтетические организмы. “Становится ясно, что все живые клетки на Земле – это биологические машины, управляемые ПО на основе ДНК”, – заявил он.

Наши машины начинают разговаривать на другом языке, который не всегда понимают даже самые лучшие кодеры.

Последние несколько лет крупнейшие компании Кремниевой Долины агрессивно продвигают новый подход в информационных технологиях под названием машинное обучение. В традиционном программировании инженер пишет исчерпывающие и точные инструкции для компьютера. С машинным обучением программисты не расшифровывают инструкции для компьютера.

Они тренируют компьютеры. Например, если вы хотите научить нейронную сеть различать котиков, вы больше не говорите ему, что у кота должны быть усы, лапы, хвост. Вы просто показываете ему тысячи и тысячи фотографий котов, и в конце концов он понимает. Если же компьютер все еще путает кота и лису, вы не переписываете код. Вы продолжаете его тренировать.

Этот подход не нов – он существует десятилетиями – но недавно он стал намного более действенным, частично благодаря развитию глубоких нейронных сетей, массово распределенных вычислительных систем, которые имитируют многоуровневые соединения нейронов в головном мозге. И на сегодня, осознаете вы это или нет, машинное обучение во многом обеспечивает нашу онлайн-активность.

С машинным обучением инженер никогда не сможет знать точно, как компьютер подойдет к выполнению задачи.

Операции нейронных систем преимущественно непрозрачны и неисповедимы. Другими словами, это и есть черный ящик. И поскольку эти черные ящики ответственны за все большее и большее число наших повседневных задач, они не только изменят наше отношение к технологиям – они изменят то, как мы думаем о себе, о мире и нашем месте в нем.

Если в старом мире программисты были богами и писали правила, по которым жил мир компьютерных систем, то сейчас они скорей как родители или как тренеры собак. Любой родитель или владелец пса вам скажет, что это куда более загадочные отношения.

Энди Рубин — заядлый ремесленник и кодер. Сосоздатель операционной системы Android, Рубин известен в Долине пристрастием окружать себя роботами как дома, так и на работе.

Рубин очень взволнован развитием машинного обучения – его новая компания Playground Global инвестирует в стартапы в области машинного обучения и позиционирует себя как лидера на ниве умных устройств. Но есть тут и повод для грусти. Потому что машинное обучение меняет то, что значит быть программистом.

“Люди больше не пишут программы. С тех пор как нейронные сети научились распознавать речь, программист больше не может просто так войти и посмотреть, как это получилось. Это как заглянуть в собственный мозг. Вы же не можете отрезать себе голову и посмотреть, о чем вы там думаете”, – говорит Рубин. Когда инженеры ныряют в глубокие нейронные сети, они видят океан математики: массивный, многоуровневый набор вычислительных проблем, которые – постоянно делая выводы из отношений между миллиардами точек данных – генерируют догадки о мире.

Принцип работы искусственного интеллекта задумывался не так. Еще несколько лет назад главные ИИ-исследователи предполагали, что для создания интеллекта необходимо просто внедрить в машину правильную логику. Написать достаточно правил и в конце концов создать систему, достаточно сложную, чтобы объяснить ей, как устроен мир. Они игнорировали, даже насмехались над первыми сторонниками машинного обучения, которые выступали за то, чтобы насыщать машины данными до тех пор, пока они сами не сделают выводы.

Годами компьютеры не были достаточно мощными, чтобы подтвердить или опровергнуть каждый из этих подходов, поэтому вопрос перешел в философскую плоскость. “Большинство споров были основаны на фиксированных взглядах о том, как должен быть организован мир и как работает мозг, – говорит бывший профессор Стэнфорда по искусственному интеллекту и создатель самоуправляемого автомобиля Google Себастьян Трун. – В нейронных сетях не было символов и правил, только цифры. Это отчуждало от них многих людей”.

Последствия неразборчивости машинного языка не только философские. За последние 20 лет обучение программированию было самым верным путем к надежному трудоустройству – факт, который сложно отрицать, учитывая, как много родителей отдавали своих детей во всевозможные академии программирования. Но мир, который работает за счет нейронных сетей с глубоким машинным обучением нуждается в работниках другого типа.

Аналитики уже начали переживать о том, какое влияние окажет расцвет искусственного интеллекта на рынок труда, поскольку машины делают старые навыки нерелевантными. И программисты вскоре могут почувствовать это влияние на собственной шкуре.

Технолог Гиллис говорит, что мы движемся в эпоху Запутывания. “Когда наши технологические и институционные творения стали более сложными, наше отношение к ним изменилось. Мы перестали быть хозяевами наших творений, мы научились с ними торговаться, уговаривать и направлять их на достижение наших целей. Мы построили собственные джунгли, и теперь они живут своей жизнью”, – написал он в “Журнале дизайна и науки”. Развитие машинного обучения – это заключительный и, может быть, последний шаг в данном путешествии.

Все это звучит довольно пугающе. В конце концов, программирование звучало как нечто такое, чему любой желающих мог научиться на буткемпе. Программисты по крайней мере были людьми. Сегодня технологическая элита еще меньше, а ее власть над собственными творениями размыта и косвенна.
Уже сейчас компании, которые все это создали, столкнулись с трудностями в управлении поведением своих же творений.

Прошлым летом Google поспешил извиниться, когда его система опознавания лиц начала определять темнокожих людей как горилл. Первым, что компания предприняла, был ламерский шаг – запретить определять что-либо как горилл, в том числе и настоящих горилл.

Под определенным углом все это указывает на то, что мы приближаемся к эпохе, в которой люди утратят контроль над машинами. “Можно представить, что такие технологии перехитрят финансовые рынки, опередят исследователей людей, переиграют человеческих лидеров и создадут оружие, которое мы не сможем даже понять. – написал Стивен Хокинг, которого сразу поддержали Элон Маск и Билл Гейтс. – В то время как в краткосрочной перспективе влияние ИИ зависит от того, кто его контролирует, в долгосрочной перспективе все зависит от того, останется ли он под контролем в принципе”.

Если все это звучит как-то знакомо, то потому, что очень напоминает старый добрый бихевиоризм 20-го века. К слову, процесс обучения машины часто сравнивают с великим бихевиористским экспериментом в начале 20 века. Павлов исследовал условные рефлексы своей собаки не через глубокое понимание голода, а просто повторяя набор действий снова и снова. Он предоставлял данные до тех пор, пока код сам себя не воспроизвел. И говорите что хотите о бихевиористах, они точно знали, как контролировать свои объекты.

И сегодня, спустя 80 лет после того, как Алан Тьюринг набросал первый эскиз своей вычислительной машины, компьютеры превращаются в устройства по превращению опыта в технологии. Десятки лет мы искали секретный код, который мог объяснить и, с некоторыми изменениями, оптимизировать наш мировой опыт.

Напомним, искусственный интеллект затмит опытных окулистов

Как сообщала Politeka, стало известно, про 7 профессий, в которых людей заменят роботы.

Также Politeka писала, что строители могут остаться без работы: новый робот заменит человека.