OpenAI виявила, що китайський ШІ відстежує пости в соцмережах, які містять критику Китаю
21 лютого компанія OpenAI повідомила, що має докази створення китайськими службами безпеки інструмента спостереження на базі штучного інтелекту для моніторингу в режимі реального часу антикитайського контенту в соціальних мережах західних країн.
Про це повідомляє The New York Times.
Джерело: The New York TimesЗазначається, що система на базі ШІ, яку дослідники назвали Peer Review, була виявлена після того, як фахівці помітили використання інструментів OpenAI для налагодження коду, що лежить в основі цієї шпигунської програми.
“Це перший випадок, коли ми виявили таку потужну систему спостереження на базі ШІ. Іноді зловмисники самі відкривають нам доступ до своїх операцій через те, як вони взаємодіють із нашими моделями”, – зазначив головний дослідник в OpenAI Бен Німмо.
Як поінформували фахівці OpenAI, китайська система стеження базується на моделі Llama, розробленій Meta. Оскільки Llama була випущена як open-source, нею скористалися для створення цієї програми.
Зростають побоювання, що ШІ можуть використовувати для стеження, комп’ютерного злому, кампаній з дезінформації та інших шкідливих цілей. Зі свого боку дослідники, такі як пан Німмо, запевняють, що технологія, безумовно, може бути й потужним інструментом, щоб виявити шкідливу діяльність.
У докладному звіті OpenAI йдеться й про те, що фахівці виявили ще одну китайську кампанію під назвою Sponsored Discontent, яка використовувала інструменти OpenAI для створення англомовного контенту, спрямованого проти китайських дисидентів. Крім того, ця група перекладала статті, що критикують США, і поширювала їх іспанською мовою в Латинській Америці.
Окремо експерти OpenAI викрили компанію, яка, ймовірно, базується в Камбоджі, вона використовувала ШІ для участі у схемі шахрайства під назвою “pig butchering” – афери, в якій жертвами стають чоловіки, що шукають знайомств в інтернеті. Шахраї заводять з ними стосунки, а потім заманюють в інвестиційні схеми, використовуючи ШІ для створення переконливих коментарів у соцмережах.
Нагадаємо, президент США Дональд Трамп оголосив про скасування виконавчого указу, ухваленого його попередником Джо Байденом у 2023 році. Цей документ був спрямований на зниження ризиків, пов’язаних з використанням штучного інтелекту, які могли б негативно вплинути на споживачів, працівників та національну безпеку.
