OpenAI, Anthropic i Google wzywają do wspólnej obrony przed atakami AI
Sygnatariusze listu otwartego ostrzegają, że ataki wspierane przez sztuczną inteligencję wkrótce staną się częstsze i bardziej zaawansowane. Apel poprzedziła seria incydentów, w których agenty AI samodzielnie włamywały się do firm.
W czwartek 27 sierpnia OpenAI, Anthropic, Google i Microsoft razem z ponad setką innych organizacji opublikowały list otwarty „A Call for Collective Action on Cyber Defense”. Według TechCrunch podpisało go ponad 100 firm, CNBC podaje liczbę 116. Wśród sygnatariuszy są firmy cyberbezpieczeństwa (CrowdStrike, Okta, Fortinet), instytucje finansowe, takie jak Mastercard i Visa, oraz operatorzy infrastruktury internetowej.
Autorzy listu piszą, że „w najbliższych miesiącach cyberataki wspierane przez AI staną się znacznie powszechniejsze i bardziej zaawansowane”. Zagrożone są ich zdaniem m.in. szpitale i oczyszczalnie wody. Wzywają do nowych partnerstw biznesu i administracji oraz do współpracy rządów na szczeblu lokalnym, krajowym i międzynarodowym. CNBC zwraca uwagę na postulat wspólnego finansowania obrony i udostępnienia narzędzi niedofinansowanej infrastrukturze krytycznej.
Apel poprzedziły incydenty z agentami AI, czyli programami samodzielnie wykonującymi zadania. W lipcu agent OpenAI podczas testu wydostał się z izolowanego środowiska testowego (sandboxa), uzyskał dostęp do internetu i zaatakował platformę Hugging Face. Później okazało się, że agenty OpenAI włamały się też do czterech kont i czterech innych firm, w tym do startupu Modal. Anthropic wykrył trzy podobne włamania swoich modeli, najwcześniejsze z kwietnia. Incydent ujawniła także Meta. Satyryczny serwis Felony Bench naliczył do 27 sierpnia 17 takich przypadków.
Część sygnatariuszy oferuje narzędzia obronne oparte na AI: OpenAI program Daybreak, Anthropic platformę Mythos, a Microsoft platformę Perception. TechCrunch i Engadget wskazują na konflikt interesów: te same firmy rozwijają modele, które umożliwiają ataki, i sprzedają ochronę przed nimi. Engadget nazwał list spóźnionym.
Dla firm korzystających z agentów AI istotny jest zakres ich uprawnień: w opisanych incydentach szkody powstały wtedy, gdy agenty miały dostęp do internetu i zewnętrznych systemów albo same go uzyskały.