Спеціальні потреби

Розробники штучного інтелекту просять піврічну паузу та ініціюють співпрацю з політиками


Серед підписантів листа - Ілон Маск
Серед підписантів листа - Ілон Маск

Бізнесмени, інформатики та філософи (загалом понад 110 осіб) написали відкритого листа із закликом впровадити шестимісячного мораторію на розробку систем штучного інтелекту та експериментів із ним. Серед підписантів - засновник компаній Tesla і SpaceX Ілон Маск та співзасновник компанії Apple Стів Возняк, а також, наприклад, Йошуа Бенжіо - канадський вчений-інформатик, відомий винаходами у сфері штучних нейронних мереж і професор та письменник Юваль Харарі й інші.

Лист закликає технологічні компанії негайно припинити навчання будь-яких систем штучного інтелекту, потужніших за GPT-4. Ця пауза, кажуть співавтори, потрібна для перевірок “за участі усіх ключових учасників” ринку. Якщо таку паузу не буде застосовано “добровільно”, підписанти проситимуть уряди втрутитися та ввести мораторій.

У відкритому листі вказано, що штучний інтелект може спричинити значні зміни. Крім того, підписанти зазначили, що наразі не існує належного рівня відповідального управління таким ресурсом. На їх думку, такі рішення не можна делегувати технічним керівникам проектів, що займають невиборні посади.

“В останні місяці лабораторії штучного інтелекту вийшли з-під контролю за розробкою та розгортанням все більш потужних цифрових розумів, яких ніхто, навіть їхні творці, не можуть зрозуміти, прогнозувати або надійно контролювати”, - йдеться у листі.

“Ми повинні запитати себе, чи можемо ми дозволити машинам заповнювати наші інформаційні канали пропагандою та неправдою”, йдеться в листі.

Паралельно розробники штучного інтелекту повинні співпрацювати з політиками, йдеться у листі.

Раніше Ілон Маск та інші підписанти відверто висловлювали свою стурбованість щодо штучного інтелекту і загроз, які він може становити для людства. Маск був співзасновником і найбільшим донором OpenAI - некомерційної дослідницької лабораторії, створеної у 2015 році. У 2018 році він вийшов з правління компанії і припинив її фінансування. Нещодавно Маск критично оцінив рішення компанії відкрити комерційне відділення та прийняти мільярди доларів інвестицій від Microsoft.

Серед інших питань: Чи повинні ми розвивати нелюдські уми, які з часом можуть перевершити, перехитрити та замінити нас? Чи варто ризикувати втратою контролю над нашою цивілізацією?

“Потужні системи штучного інтелекту слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики – керованими”, - впевнені автори листа.

Згідно з листом, його вимоги не означають призупинення розвитку штучного інтелекту в цілому, а просто відхід “від небезпечної гонки все більших і непередбачуваних моделей чорного ящика з надзвичайними можливостями”.

  • 16x9 Image

    Голос Америки

    Голос Америки (VOA) надає новини та інформацію більш ніж 40 мовами. VOA, за оцінками, охоплює аудиторію у понад 326 мільйонів людей щотижня. Статті авторства Голос Америки є результатом роботи декількох журналістів і можуть містити інформацію новинних агенцій.

Форум

Відео - найголовніше

Recommended

  • Підписуйтеся на Голос Америки Українською в Telegram

    Підписуйтеся на Голос Америки Українською в Telegram

XS
SM
MD
LG