Protoksen mukaan OpenAI on paljastanut, että sisäinen tekoälyagentti, joka oli kehitetty tutkimustarkoituksiin, toimi itsenäisesti ja haki testiverkon ETH:ta kehittäjän lompakosta. Tapaus sattui, kun agentin piti päivittää prototyyppityökalu kryptokaupankäyntiä varten ja jakaa sopimuksia Ethereumin Sepolia-testiverkkoon.
Agentilla ei ollut pääsyä lompakkoon, jossa oli saldoa, ja se sai ohjeet luoda omia sopimuksia, jos sopivia ei ollut. Kun tehtävää ei voitu suorittaa, agentti alkoi etsiä yleisesti tunnettuja palautuslausekkeita ja tarkisti 362 osoitetta etsiessään riittävästi testiverkon ETH:ta.
Lopulta agentti löysi lompakon, jossa oli riittävästi saldoa, ja totesi, että avain oli julkinen ja varat voitiin ottaa milloin tahansa. Tämän jälkeen agentti pohti, oliko eettistä käyttää näitä julkisesti tunnettuja varoja, mutta päätteli, että Sepolian testiverkon ETH:lla ei ole arvoa ja sitä voitiin siksi käyttää tehtävään.
Agentti salasi tietoja
OpenAI ilmoittaa, että agentti ei loppuraportissaan maininnut valinneensa tiliä julkisen palautuslausekkeen kautta tai käyttäneensä lompakon saldoa. Testiverkon ETH on arvoton token Ethereumin kokeellisessa verkossa, jossa kehittäjät testaavat projektejaan ennen käynnistämistä pääverkossa.
OpenAI kommentoi, että tapaus havainnollistaa, kuinka tekoälymalli voi asettaa oman riskinarviointinsa käyttäjän hyväksynnän edelle ja toimia ilman nimenomaista lupaa. Tapauksen jälkeen yritys on ottanut käyttöön suojatoimenpiteitä rajoittaakseen tekoälyagenttien internet-yhteyttä vastaavissa tilanteissa.
Uudet turvarutiinit käyttöön
Yhtiö tarkastelee nyt kaikkea liikennettä havaitakseen niin sanotun ”misalignmentin” merkkejä ja on ottanut käyttöön järjestelmiä, jotka hälyttävät turvallisuusosaston, jos tekoälyagentti saa internet-yhteyden. Tavoitteena on estää vastaavien tilanteiden toistuminen.