Poate Ethereum să oprească alianțele secrete ale AI-ului autonom?
Vitalik Buterin, cofondatorul Ethereum, crede că instrumentele pe care le-a dezvoltat pentru a opri coordonarea nocivă în rețelele blockchain pot fi adaptate pentru a controla sistemele de inteligenta artificială autonome. Într-un interviu recent, a explicat cum mecanismele concepute pentru a preveni coludierea printre mineri ar putea opri agenții de AI să se alianceze în mod secret în moduri periculoase pentru societate.
Știri de ultimă oră
Bitcoin se lovește de un zid la 82.000$: Ce urmează pentru cea mai cunoscută criptomonedă?
Duelul capitalului în crypto: XRP și Solana domină fluxurile de investiții
Gemini, de la gloria IPO-ului la pragul unei achiziții: Valoarea bursei crypto s-a prăbușit cu 80%
Bruxelles-ul pune sub lupă staking-ul crypto: urmează reguli mai stricte în UE?Ideea se bazează pe lucrarea lui anterioră despre „coordonarea nocivă” în rețelele descentralizate. A argumentat că când participanții de pe un blockchain se liguează, pot manipula consensul sau să se aproprie de recompense. Pentru a opregești asta, a ajutat la crearea de reguli care limitează influența unui singur actor și impun transparență. Acum crede că aceleași principii pot fi aplicate agenților de AI care învăță și acționează independență.
În centrul propunerii stă un set de reguli de guvernanță care ar implica ca agenții de AI să dezvăluie intențiile și procesele de luare a deciziilor. Prin obligarea agentilor să publice modelele interne și datele de antrenare, sistemul ar face mai greu să se alianceze în secret pe strategii nocive. Buterin a menționat experimente în care nodurile blockchain care au partajat informații private au putut coordona pentru a efectua dublu cheltuit. Același principiu, spune el, ar putea preveni formarea de alianțe ascunse între sistemele de AI care să amenințe siguranța publică.
A subliniat și importanța mecanismelor de „dovedire a coludierei”. În termeni blockchain, aceasta implică dovezi criptografice care arată dacă participanții acționează de concert.
Poate etica AI să adopte guvernanță descentralizată?
Trasă în lumea AI, Buterin imaginează un cadru în care agenții ar trebui să furnizeze dovezi verificabile că acționează independență, altfel fruntându-se cu penalități precum reducerea accesului la resurse sau pierderea reputației.
Este realista ca dezvoltatorii de AI să adopte un model de guvernanță inspirat de blockchain? Buterin recunoaște că tranziția ar fi complexă. Subilinează că sistemele de AI funcționează în medii mult mai dinamice decât un registru fix, iar organele de regulamentare ar trebui să asigure respectarea normelor. Totuși, crede că natura descentralizată a blockchain-ului oferă rezistență la punctele unice de eșec – o calitate care ar putea fi de mare valoare pentru siguranța AI.
A menționat și că multe cercetări în domeniul siguranței AI se concentrează pe aspecți tehnici, precum alinierea valorilor sau modelarea recompensei. Abordarea anti-coludiere ar adăuga un strat de supraveghere socială, asigurând că mai mulți interveniți rămân responsabili. Criticii se teme că astfel de reguli ar putea încetini inovarea sau să fie greu de aplicat la scară mare. Buterin replică că comunitatea blockchain a implementat cu succes protocole de guvernanță complexe, sugerând un drum deja probat.
Dacă ar fi adoptate, aceste reguli ar putea schimba modul în care se despleagă sistemele de AI.
Companiile ar putea fi obligate să înregistreze modelele pe un registru public, supuse auditurilor care verifică independența și transparența. Guvernele ar putea impune ca agenții de AI din sectoare critice – precum finanțele sau sănătatea – să respecte aceste standarde. Implicația mai largă este o mișcare spre un ecosistem AI mai democratic și verificabil, unde coordonarea este monitorizată și controlată, în loc să rămână necontrolată.
Vitalik Buterin: AI-ul va fi salvat de soluțiile anti-coluzie din blockchain?
Deși conceptul rămâne teoretic, deschide o conversație importantă despre intersecția dintre tehnologia descentralizată și inteligenta artificială. Prin împrumutarea lecțiilor din guvernanța blockchain-ului, comunitatea AI ar putea găsi noi instrumente pentru a reduce riscurile care apar când agenții autonomi colaborează în moduri nepredicibile.
Care este scopul principal al aplicării regulilor blockchain la AI? Scopul este prevenirea coordonării secrete a agenților de AI în moduri care ar putea daună societatea, prin aplicarea transparenței și operațiunii independente.
Cum ar putea demonstra agenții de AI că nu colaborează în secret? Ar trebui să furnizeze dovezi criptografice sau jurnaluri verificabile ale proceselor de decizie, similar cu modul în care nodurile blockchain dovedesc că acționează independență.
Ar putea aceste reguli să încetinească dezvoltarea AI?\nExistă un risc de supraincarcare regulativă, dar partidarii arguă că beneficiile în materie de siguranță și responsabilitate depășesc eventualele întârzieri.
