Розквіт штучного інтелекту призведе до загибелі Землі: люди втрачають контроль над машинами

З розквітом машинного навчання програмісти пишуть все менше традиційного коду – тепер машини вчаться діяти самостійно без бажання людини

Скоро необхідність писати для них інструкції у вигляді коду і зовсім відпаде – будь-яка людина зможе навчити свій гаджет чого завгодно так само легко, як він вчить собаку стрибати через бар’єр, пише Хвиля.

Можливо, програмісти, які сьогодні так затребувані, незабаром стануть нікому не потрібні. Відповісти на ці та інші питання спробував редактор Wired Джейсон Танц.

Код логічний. Код схильний до злому. Код – це доля. Такі основні постулати (і самореалізуються пророцтва) життя в цифрову епоху. Перефразовуючи венчурного інвестора Марка Андресс: коли софт поглинув світ, ми оточили себе машинами, які конвертують наші дії, думки і емоції в дані – сировина, яким маніпулюють армії інженерів. Ми дійшли до того, що саме життя сприймаємо як серію інструкцій, які можна виявити, експлуатувати, оптимізувати, можливо, переписати.

Компанії використовують код, щоб зрозуміти наше найпотаємніше. Facebook Марка Цукерберга зайшов настільки далеко, що припустив, ніби існує “фундаментальний математичний закон, який лежить в основі людських відносин, і керує тим, про кого і про що ми найбільше дбаємо”. У 2013 році Крейг Вентер оголосив, що через десятиліття після декодування людського генома він почав писати код, який дозволить йому створювати синтетичні організми. “Стає ясно, що всі живі клітини на Землі – це біологічні машини, керовані ПО на основі ДНК”, – заявив він.

Наші машини починають розмовляти іншою мовою, який не завжди розуміють навіть найкращі кодери.

Останні кілька років найбільші компанії Кремнієвої Долини агресивно просувають новий підхід в інформаційних технологіях під назвою машинне навчання. У традиційному програмуванні інженер пише вичерпні і точні інструкції для комп’ютера. З машинним навчанням програмістів не розшифровують інструкції для комп’ютера.

Вони тренують комп’ютери. Наприклад, якщо ви хочете навчити нейронну мережу розрізняти котиків, ви більше не кажіть йому, що у кота повинні бути вуса, лапи, хвіст. Ви просто показуєте йому тисячі і тисячі фотографій котів, і в кінці кінців він розуміє. Якщо ж комп’ютер все ще плутає кота і лисицю, ви не переписуєте код. Ви продовжуєте його тренувати.

Цей підхід не новий – він існує десятиліттями – але недавно він став набагато більш дієвим, частково завдяки розвитку глибоких нейронних мереж, масово розподілених обчислювальних систем, які імітують багаторівневі з’єднання нейронів в головному мозку. І на сьогодні, усвідомлюєте ви це чи ні, машинне навчання багато в чому забезпечує нашу онлайн-активність.З машинним навчанням інженер ніколи не зможе знати точно, як комп’ютер підійде до виконання завдання.

Операції нейронних систем переважно непрозорі і несповідимі. Іншими словами, це і є чорний ящик. І оскільки ці чорні ящики відповідальні за все більшу і більшу кількість наших повсякденних завдань, вони не тільки змінять наше ставлення до технологій – вони змінять то, як ми думаємо про себе, про світ і наше місце в ньому.

Якщо в старому світі програмісти були богами і писали правила, за якими жив світ комп’ютерних систем, то зараз вони скоріше як батьки або як тренери собак. Будь-який батько чи власник пса вам скаже, що це куди більш загадкові відносини.

Енді Рубін – завзятий ремісник і кодер. Сосоздатель операційної системи Android, Рубін відомий в Долині пристрастю оточувати себе роботами як вдома, так і на роботі.

Рубін дуже схвильований розвитком машинного навчання – його нова компанія Playground Global інвестує в стартапи в області машинного навчання і позиціонує себе як лідера на ниві розумних пристроїв. Але є тут і привід для смутку. Тому що машинне навчання змінює те, що значить бути програмістом.

“Люди більше не пишуть програми. З тих пір як нейронні мережі навчилися розпізнавати мову, програміст не може просто так увійти і подивитися, як це вийшло. Це як зазирнути у власний мозок. Ви ж не можете відрізати собі голову і подивитися, про що ви там думаєте “, – говорить Рубін. Коли інженери пірнають в глибокі нейронні мережі, вони бачать океан математики: масивний, багаторівневий набір обчислювальних проблем, які – постійно роблячи висновки з відносин між мільярдами точок даних – генерують здогади про світ.

Принцип роботи штучного інтелекту замислювався не так. Ще кілька років тому головні ІІ-дослідники припускали, що для створення інтелекту необхідно просто впровадити в машину правильну логіку. Написати досить правил і врешті-решт створити систему, досить складну, щоб пояснити їй, як влаштований світ. Вони ігнорували, навіть насміхалися над першими прихильниками машинного навчання, які виступали за те, щоб насичувати машини даними до тих пір, поки вони самі не зроблять висновки.

Роками комп’ютери не були достатньо потужними, щоб підтвердити або спростувати кожен з цих підходів, тому питання перейшло в філософську площину. “Більшість суперечок були засновані на фіксованих поглядах про те, як повинен бути організований світ і як працює мозок, – каже колишній професор Стенфорда зі штучного інтелекту і творець самоврядного автомобіля Google Себастьян Трун. – У нейронних мережах не було символів і правил, тільки цифри. Це відчужувало від них багатьох людей “.

Наслідки нерозбірливості машинного мови не тільки філософські. За останні 20 років навчання програмуванню було найвірнішим шляхом до надійного працевлаштування – факт, який складно заперечувати, враховуючи, як багато батьків віддавали своїх дітей у всілякі академії програмування. Але світ, який працює за рахунок нейронних мереж з глибоким машинним навчанням потребує працівників іншого типу.

Аналітики вже почали переживати про те, який вплив матиме розквіт штучного інтелекту на ринок праці, оскільки машини роблять старі навички нерелевантними. І програмісти незабаром можуть відчути цей вплив на власній шкурі.

Технолог Гілліс каже, що ми рухаємося в епоху заплутування. “Коли наші технологічні та інституційні творіння стали більш складними, наше ставлення до них змінилося. Ми перестали бути господарями наших творінь, ми навчилися з ними торгуватися, вмовляти і направляти їх на досягнення наших цілей. Ми побудували власні джунглі, і тепер вони живуть своїм життям “, – написав він у” Журналі дизайну і науки “. Розвиток машинного навчання – це заключний і, може бути, останній крок в даному подорожі.

Все це звучить досить лякаюче. Зрештою, програмування звучало як щось таке, чого будь-який бажаючих міг навчитися на буткемпе. Програмісти принаймні були людьми.Сьогодні технологічна еліта ще менше, а її влада над власними творами розмита і непрямі.

Уже зараз компанії, які все це створили, зіткнулися з труднощами в управлінні поведінкою своїх же творінь.

Минулого літа Google поспішив вибачитися, коли його система розпізнавання осіб почала визначати темношкірих людей як горил. Першим, що компанія зробила, був ламерскій крок – заборонити визначати що-небудь як горил, в тому числі і справжніх горил.

Під певним кутом все це вказує на те, що ми наближаємося до епохи, в якій люди втратять контроль над машинами. “Можна уявити, що такі технології перехитрити фінансові ринки, випередять дослідників людей, переграють людських лідерів та створять зброю, яке ми не зможемо навіть зрозуміти. – написав Стівен Хокінг, якого відразу підтримали Ілон Маск і Білл Гейтс. – У той час як в короткостроковій перспективі вплив ІІ залежить від того, хто його контролює, в довгостроковій перспективі все залежить від того, чи залишиться він під контролем в принципі “.

Якщо все це звучить якось знайомо, то тому, що дуже нагадує старий добрий біхевіоризм 20-го століття. До слова, процес навчання машини часто порівнюють з великим біхевіорістскім експериментом на початку 20 століття. Павлов досліджував умовні рефлекси своєї собаки не через глибоке розуміння голоду, а просто повторюючи набір дій знову і знову. Він надавав дані до тих пір, поки код сам себе не відтворив. І говорите що хочете про бихевиористами, вони точно знали, як контролювати свої об’єкти.

І сьогодні, через 80 років після того, як Алан Тьюринг накидав перший ескіз своєї обчислювальної машини, комп’ютери перетворюються в пристрої по перетворенню досвіду в технології. Десятки років ми шукали секретний код, який міг пояснити і, з деякими змінами, оптимізувати наш світовий досвід.

Нагадаємо, штучний інтелект затьмарить досвідчених окулістів

Як повідомляла Politeka, стало відомо, про 7 професій, в яких людей замінять роботи.

Також Politeka писала, що будівельники можуть залишитися без роботи: новий робот замінить людини.