Бізнесмени, інформатики та філософи (загалом понад 110 осіб) написали відкритого листа із закликом впровадити шестимісячного мораторію на розробку систем штучного інтелекту та експериментів із ним. Серед підписантів - засновник компаній Tesla і SpaceX Ілон Маск та співзасновник компанії Apple Стів Возняк, а також, наприклад, Йошуа Бенжіо - канадський вчений-інформатик, відомий винаходами у сфері штучних нейронних мереж і професор та письменник Юваль Харарі й інші.
Лист закликає технологічні компанії негайно припинити навчання будь-яких систем штучного інтелекту, потужніших за GPT-4. Ця пауза, кажуть співавтори, потрібна для перевірок “за участі усіх ключових учасників” ринку. Якщо таку паузу не буде застосовано “добровільно”, підписанти проситимуть уряди втрутитися та ввести мораторій.
У відкритому листі вказано, що штучний інтелект може спричинити значні зміни. Крім того, підписанти зазначили, що наразі не існує належного рівня відповідального управління таким ресурсом. На їх думку, такі рішення не можна делегувати технічним керівникам проектів, що займають невиборні посади.
“В останні місяці лабораторії штучного інтелекту вийшли з-під контролю за розробкою та розгортанням все більш потужних цифрових розумів, яких ніхто, навіть їхні творці, не можуть зрозуміти, прогнозувати або надійно контролювати”, - йдеться у листі.
“Ми повинні запитати себе, чи можемо ми дозволити машинам заповнювати наші інформаційні канали пропагандою та неправдою”, йдеться в листі.
Паралельно розробники штучного інтелекту повинні співпрацювати з політиками, йдеться у листі.
Раніше Ілон Маск та інші підписанти відверто висловлювали свою стурбованість щодо штучного інтелекту і загроз, які він може становити для людства. Маск був співзасновником і найбільшим донором OpenAI - некомерційної дослідницької лабораторії, створеної у 2015 році. У 2018 році він вийшов з правління компанії і припинив її фінансування. Нещодавно Маск критично оцінив рішення компанії відкрити комерційне відділення та прийняти мільярди доларів інвестицій від Microsoft.
Серед інших питань: Чи повинні ми розвивати нелюдські уми, які з часом можуть перевершити, перехитрити та замінити нас? Чи варто ризикувати втратою контролю над нашою цивілізацією?
“Потужні системи штучного інтелекту слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики – керованими”, - впевнені автори листа.
Згідно з листом, його вимоги не означають призупинення розвитку штучного інтелекту в цілому, а просто відхід “від небезпечної гонки все більших і непередбачуваних моделей чорного ящика з надзвичайними можливостями”.
Форум