Anthropic otvara vrata vanjskim evaluatorima: tko zapravo provjerava moćne AI modele?

Kada proizvođač kaže da je njegov AI model siguran, kupac još ne zna tko je provjerio tu tvrdnju ni koliko je provjera bila duboka. Anthropic je 15. listopada opisao novi aranžman s neprofitnim evaluatorom METR-om: mali vanjski tim dobiva pristup sličan pristupu zaposlenika koji se bave procjenom rizika.^[1]

To otvara mogućnost da procjenitelji vide više od ponašanja modela u javnom chatu. Vrijednost takvog pristupa jest u dodatnim dokazima: pitanje koje se na običnoj demonstraciji ne može ni postaviti možda postaje provjerljivo u internom okruženju. Koliko je taj pomak stvarno velik, treba čitati iz nalaza i njihovih ograničenja, a ne iz same riječi „neovisno“.

Pristup iznutra, uz granice

Anthropic navodi da je uključeno šest METR-ovih zaposlenika, s opremom, prostorom i pristupom internim alatima. Postoje iznimke, među njima podaci o korisnicima, povlaštena pravna komunikacija i informacije o arhitekturama modela. METR može objaviti analizu bez Anthropicova veta na objavu, ali proizvođač može tražiti uklanjanje informacija iz unaprijed definiranih kategorija. Konačnu procjenu pripada li informacija tim kategorijama donosi Anthropic.^[1]

Zbog toga nije dovoljno pitati postoji li izvještaj. Treba pročitati i što je iz njega izostavljeno te može li to promijeniti zaključak. Dobar javni nalaz omogućuje čitatelju da razdvoji opažanje, tumačenje i područje koje procjenitelj nije mogao ispitati.

I evaluator mora objasniti svoje uvjete rada

METR je u vlastitoj objavi od 14. listopada opisao kako želi prikazivati opseg i trajanje procjene, ograničenja pristupa, redakcije informacija te moguće sukobe interesa. Naglašava da prikuplja dokaze za javnost, umjesto da sam odlučuje kako kompanije trebaju razvijati i uvoditi AI agente.^[2]

Takav je okvir koristan jer riječ „evaluacija“ može pokrivati vrlo različite poslove. Procjena jednog rizika ne govori nužno kako će model odgovarati na hrvatskom jeziku, obraditi internu tablicu ili postupiti kada mu zaposlenik pogrešno dodijeli ovlasti. To su zasebna pitanja za kupca i njegov projekt.

Što tražiti kada kupujete AI za tvrtku

Za hrvatsku tvrtku praktičan je početak zatražiti tri stvari: opis onoga što je testirano, poveznicu na rezultate i popis ograničenja. Uz njih treba vezati vlastiti scenarij: koje podatke sustav smije vidjeti, koju odluku smije predložiti i gdje čovjek mora potvrditi radnju.

Primjerice, dobavljačev sigurnosni izvještaj može pomoći pri procjeni modela za obradu dokumenata. I dalje treba provjeriti hoće li vaše rješenje navesti pravi izvor, prepoznati da odgovora nema i spriječiti pristup dokumentu iz drugog odjela. Tu nastaje razlika između opće reputacije modela i pouzdanosti konkretne usluge.

Anthropicov potez zato je vrijedan praćenja kao promjena načina provjere. Sljedeće važno štivo bit će objavljeni nalazi: što su vanjski procjenitelji doista vidjeli, što su zaključili i što je ostalo izvan njihova dosega.