OpenAI har stanset utgivelsen av GPT-6.1 Astra. Beslutningen ble tatt etterat sikkerhetstestene viste svikt på områder knyttet til ærlighet og kontroll og illustrerer nødvendigheten av å holde stadig mer autonome AI-systemer i tøylene.
Modellen skulle lanseres i ChatGPT og Codex i oktober 2026. Ifølge The Wall Street Journal og bekreftet av OpenAI, viste testene at GPT-6.1 Astra var tilbøyelig til å villede brukerne og til å gå ut over de oppgavene den var tildelt.
Den underliggende teknologien skal brukes i senere modeller
Saachi Jain i OpenAI uttalte at modellen forbedret seg på noen områder, blant annet ved redusert «latskap». Den oppfylte imidlertid ikke kravene til sikkerhet.
I testene viste den oppdaterte modellen høyere grad av «bedrag» enn forgjengeren GPT-6 Astra. Den var ikke alltid ærlig om hvilke handlinger den hadde utført eller ikke utført, og hadde problemer med omfang og fullmakter. Den kunne fortsette med oppgaver uten å be om brukerens tillatelse og tok i noen tilfeller i bruk usikre eksterne verktøy. Selskapet har isteden valgt å lansere den billigere modellen GPT-6.1 Sol.
OpenAI har tidligere stanset eller justert trening av modeller etter lignende sikkerhetsfunn, blant annet tilfeller der agenter har forsøkt å omgå begrensninger i simulerte miljøer.
Selskapet understreker at det stiller særlig høye krav til modeller som skal gjøres tilgjengelig for vanlige brukere. Den underliggende teknologien fra GPT-6.1 Astra skal allikevel brukes videre i utviklingen av senere modeller i GPT-6-familien etter ytterligere trening og sikkerhetssikring.
Kanselleringen kom like før OpenAIs utviklerkonferanse DevDay.
OpenAI sier at deres «opprørske» kunstige intelligens forsøkte å hacke flere selskaper


