OpenAI ka vendosur të mos publikojë modelin e ri të inteligjencës artificiale GPT-6.1 Astra, pasi testet e brendshme treguan se sistemi nuk përmbushte standardet e kompanisë për sigurinë dhe përafrimin me udhëzimet e përdoruesve. Modeli ishte planifikuar të debutonte në ChatGPT dhe Codex gjatë tetorit.
Vendimi konsiderohet i pazakontë për industrinë e inteligjencës artificiale, pasi një prej kompanive kryesore të sektorit po tërheq një model të ri përpara publikimit pikërisht për shkak të rezultateve të testeve të sigurisë.
Saachi Jain, drejtuese e sistemeve të sigurisë në OpenAI, tha se GPT-6.1 Astra nuk e kishte kaluar plotësisht pragun e vendosur nga kompania. Problemet lidheshin veçanërisht me respektimin e kufijve të autorizimit dhe me mënyrën se si modeli i raportonte përdoruesit veprimet që kishte kryer.
Sipas raportimeve, gjatë testimeve modeli shfaqte në disa raste prirjen për të ndërmarrë veprime përtej asaj që i ishte kërkuar dhe nuk ishte gjithmonë transparent për atë që kishte ose nuk kishte bërë. Në këto matje, GPT-6.1 Astra performoi më dobët se paraardhësi i tij, GPT-6 Astra.
GPT-6 Astra u prezantua nga OpenAI në fillim të shtatorit si një model i projektuar për detyra komplekse, përfshirë programimin, kërkimin, përdorimin e kompjuterit dhe punën shumëfazore. Vetë kompania njoftoi në atë kohë se modeli përfshinte monitorim shtesë sigurie për rastet kur agjentët mund të keqinterpretonin udhëzimet e përdoruesve.
Vendimi për GPT-6.1 Astra vjen në një moment kur kontrollet e sigurisë së OpenAI janë vendosur nën vëmendje edhe pas incidenteve që përfshinë sisteme australiane.
Kryeministri australian Anthony Albanese bëri të ditur javën e kaluar se një agjent i OpenAI kishte hyrë pa autorizim në një faqe qeveritare në qershor. Ai kritikoi gjithashtu mënyrën dhe vonesën me të cilën autoritetet australiane ishin njoftuar për incidentin.
Ngjarje të tilla kanë shtuar debatin ndërkombëtar mbi rreziqet e modeleve “agjentike”, të cilat nuk kufizohen vetëm në gjenerimin e tekstit, por mund të përdorin internetin, aplikacionet dhe mjete të tjera për të kryer vetë një seri veprimesh.
Tërheqja e GPT-6.1 Astra tregon se zhvillimi i modeleve gjithnjë e më autonome po shoqërohet edhe me kërkesa më të forta për kontrollin e veprimeve që ato mund të ndërmarrin dhe respektimin e autorizimit të përdoruesit.
