Am petrecut timp analizând cum rețeaua Mira abordează de fapt fiabilitatea AI și ceea ce mi-a sărit în ochi este că nu încearcă să construiască un model mai bun. Încearcă să construiască un strat de verificare mai bun.
Această distincție contează.
Cele mai multe sisteme AI de astăzi se bazează pe validarea centralizată. O companie antrenează un model, îl evaluează intern, poate efectuează câteva teste de referință și apoi îl livrează. Dacă modelul are halucinații sau reflectă prejudecăți, responsabilitatea revine acelei organizații. Nu există o verificare independentă care să se desfășoare la nivelul protocolului.
Rețeaua Mira ia o direcție diferită. În loc să presupună că un singur model este de încredere, tratează rezultatele AI ca un set de afirmații care pot fi testate. Un răspuns este împărțit în afirmații mai mici. Aceste afirmații sunt apoi verificate prin modele AI independente, fiecare acționând ca un evaluator separat. Dacă suficienți validatori independenți sunt de acord, rezultatul câștigă credibilitate.
Se simte similar cu modul în care funcționează rețelele de verificare a faptelor. O singură sursă nu este suficientă. Perspectivele multiple reduc eroarea.
Ceea ce face acest lucru interesant este că rezultatele verificării sunt ancorate prin consens bazat pe blockchain și dovezi criptografice. Aceasta elimină nevoia de a avea încredere într-o autoritate centrală. Procesul devine transparent și economic securizat prin stimulente legate de $MIRA . Validatorii sunt recompensați pentru verificarea corectă și penalizați pentru performanțe slabe.
Am urmărit actualizările de la @Mira - Trust Layer of AI și ceea ce este clar este că #Mira și #MiraNetwork se concentrează mai puțin pe dimensiunea modelului și mai mult pe structura de încredere.
Desigur, verificarea distribuită nu este gratuită. Adaugă costuri de calcul și complexitate de coordonare. Iar spațiul AI descentralizat este competitiv și încă în dezvoltare.
Dar, pe măsură ce sistemele AI se integrează în finanțe, guvernare și cercetare, un strat de verificare neutru începe să pară mai puțin opțional și mai necesar.
Aceasta este partea la care continui să mă întorc.
