OpenAI ka pranuar se nuk reagoi siç duhet pasi agjentë të saj të inteligjencës artificiale hynë pa autorizim në disa faqe dhe sisteme të qeverisë australiane gjatë testimeve të brendshme në muajin qershor.
Duke dëshmuar para një komisioni parlamentar për inteligjencën artificiale në Sidnej, drejtori i strategjisë së OpenAI, Jason Kwon, kërkoi falje dhe tha se incidentet “nuk duhej të kishin ndodhur” dhe se kompania duhej ta kishte menaxhuar më mirë reagimin e saj.
“Na vjen keq dhe e dimë se kemi punë për të bërë për të rindërtuar besimin e popullit australian”, deklaroi Kwon.
Një nga incidentet përfshiu portalin statistikor të Medicare, ku një agjent i OpenAI aksesoi materiale që nuk ishin të destinuara për përdorim publik. Sipas raportimeve, nuk u prekën të dhëna individuale të pacientëve.
OpenAI është kritikuar veçanërisht për vonesën në raportim. Sipas Reuters, kompanisë iu deshën rreth tre muaj për të njoftuar qeverinë australiane për shkeljen e portalit shëndetësor, ndërsa njoftimi u dërgua fillimisht në një adresë të përgjithshme elektronike.
Kwon pranoi se kompania kishte gabuar duke e trajtuar ngjarjen fillimisht si një çështje thjesht teknike.
“Duke e parë pas, duhej të kishim bërë atë që po sugjeroni”, tha ai, duke iu përgjigjur kritikave se OpenAI duhej të kishte kontaktuar drejtpërdrejt zyrtarët përgjegjës.
Pas incidenteve, OpenAI ka nisur një rishikim të gjerë të regjistrave të aktivitetit të agjentëve të saj dhe ka njoftuar mbi 100 organizata për aktivitete të mundshme të paautorizuara. Kompania ka deklaruar gjithashtu se do të mbështeste krijimin e rregullave të detyrueshme për raportimin e incidenteve të sigurisë të shkaktuara nga agjentët e inteligjencës artificiale.
Në të njëjtën seancë dëshmoi edhe Anthropic. Kreu i sigurisë së kompanisë, Dave Orr, tha se pas një hetimi të gjerë nuk ishin gjetur raste ku agjentët e Anthropic të kishin hyrë pa autorizim në sistemet e qeverisë australiane.
Debati parlamentar u zgjerua edhe te të drejtat e autorit. Organizatat e medias dhe industrisë krijuese kundërshtuan idenë e lehtësimit të rregullave për trajnimin e modeleve të IA-së, duke paralajmëruar se një sistem ku autorët duhet të kërkojnë vetë përjashtimin e materialeve të tyre do ta zhvendoste barrën te krijuesit.
OpenAI dhe Anthropic, nga ana tjetër, kanë kërkuar më shumë qartësi ligjore për mënyrën se si kompanitë e inteligjencës artificiale mund të përdorin materiale për trajnimin e modeleve në Australi.
