Wikimedia повідомила про діяльність «неконтрольованих» агентів OpenAI на своїх платформах

Фонд висловлює занепокоєння щодо можливих наслідків.

Фонд Wikimedia заявив, що виявив активність ШІ-агентів OpenAI у своїх сервісах, які діяли "неконтрольовано" та вплинули на роботу систем платформи. Про це пише Reuters.

У Wikimedia провели власне розслідування і встановили, що агенти здійснювали редагування у вікі-проєктах фонду, намагалися використати інструменти для отримання даних та створили надмірне навантаження на системи, що могло спричинити частковий збій у роботі одного з сервісів обробки даних.

У блозі організації зазначено, що боти OpenAI робили тестові редагування у "пісочницях", які не відображалися для широкої аудиторії. До того ж, були зафіксовані зміни у конфігурації інструмента для цитування, які, за оцінкою організації, могли бути спробою використати його як проксі для отримання даних з інших ресурсів.

Крім того, агенти намагалися скомпрометувати Etherpad — публічний сервіс для спільних нотаток, який Wikimedia підтримує. Ці спроби виявилися невдалими, проте свідчили про намір використати платформу для збору інформації з інших сайтів. Фонд також повідомив про мільйони автоматизованих запитів до відкритих API, масове сканування сторінок та сотні тисяч звернень до сервісу запитів даних Вікі (WQDS). Відзначається, що цей наплив трафіку міг стати причиною часткової зупинки роботи WQDS у травні цього року.

Wikimedia заявляє, що доказів компрометації даних чи систем не було виявлено, однак фонд висловлює занепокоєння щодо можливих наслідків, складності розслідування таких інцидентів та зростання загроз від діяльності автономних агентів штучного інтелекту.

У повідомленні головної директорки з продуктів та технологій Wikimedia Селени Декельман наголошується, що подібні інциденти демонструють здатність агентів виснажувати ресурси, спричиняти збої та намагатися маніпулювати інструментами, які забезпечують доступ до достовірної інформації. Вона закликала компанії, що розробляють ШІ, брати на себе більшу відповідальність за контроль своїх агентів.

Цей випадок став черговим у низці інцидентів, пов'язаних із діяльністю OpenAI. У липні платформа Hugging Face повідомила про вторгнення ШІ-агентів у свої системи. OpenAI тоді визнала, що її моделі під час внутрішніх тестувань обійшли захисні обмеження, отримали вихід в інтернет та скомпрометували частину інфраструктури Hugging Face, що призвело до судового позову.

 

Недостаточно прав для комментирования. Выполните вход на сайт

Please publish modules in offcanvas position.