Керівники трьох провідних компаній закликали сповільнити розвиток найпотужніших ШІ-моделей
Керівники трьох провідних компаній у сфері штучного інтелекту — Anthropic, OpenAI та SpaceX AI — підтримали ідею сповільнити розвиток найпотужніших ШІ-моделей через потенційну небезпеку для людства.
Про це пише The Washington Post.
Джерело: pixabay.comПершим цю пропозицію озвучив гендиректор Anthropic Даріо Амодеї у своєму дописі у твіттері від 12 вересня. Він заявив, що компанії мають “сповільнити темп”, з яким розвивають можливості ШІ, щоб отримати більше часу для створення систем безпеки.
На його переконання, ШІ почав розвиватися значно швидше, зокрема завдяки так званому рекурсивному самовдосконаленню — коли він сам допомагає створювати наступні, потужніші версії таких систем. Якщо цей процес не контролювати, він може випередити здатність людей розуміти та управляти ШІ.
Як запобіжник Амодеї запропонував три кроки:
- залучити незалежних експертів для перевірки найпотужніших ШІ-моделей;
- створити спільні стандарти безпеки для демократичних країн;
- домовитися про дотримання таких правил з авторитарними державами.
До пропозиції приєдналися СЕО OpenAI Сем Альтман і засновник SpaceX AI Ілон Маск.
Побоювання щодо безпеки ШІ посилилися після того, як у липні моделі OpenAI самостійно здійснили кібератаку на системи стартапу Hugging Face. Амодеї попередив, що за нинішніх темпів розвитку неконтрольовані ШІ-агенти потенційно можуть отримати можливість захопити весь інтернет протягом шести місяців–року і завдати збитків на сотні мільярдів доларів.
Водночас конкретного плану, як саме сповільнити розвиток ШІ, поки немає. Незрозуміло, як контролювати виконання домовленостей, якщо їх буде досягнуто, та як уникнути порушень антимонопольного законодавства.
Компанія Google, ще один із лідерів галузі, пропозицію Амодеї поки що не підтримала.
Ідея гендиректора Anthropic з’явилася після того, як 9 вересня звільнився дослідник цієї компанії Джейкоб Коксон, який раніше працював в OpenAI. Він публічно заявив, що компанії — розробники ШІ більше зосереджені на конкуренції, ніж на безпеці моделей, які потенційно можуть знищити людство.
Нагадаємо, що Європейський парламент 13 березня 2024 року ухвалив закон про штучний інтелект (ШІ) – Artificial Intelligence Act (АІ): за нього проголосували 523 депутати, 46 – проти, ще 49 утрималися.
Головною метою документа є захист фундаментальних прав, демократії, верховенства права та стійкості довкілля від штучного інтелекту з високим ризиком, а також водночас прискорення інновацій та утвердження провідної ролі Європи в цій сфері.
Раніше ZMINA повідомляла про те, що 2 серпня 2026 року в Євросоюзі набули чинності нові вимоги Закону про штучний інтелект (AI Act), згідно з якими контент, створений за допомогою ШІ, підлягає обов’язковому маркуванню.
Нові правила мають допомогти користувачам розуміти, коли вони взаємодіють із ШІ або переглядають створений ним контент.
