Aclamate ca fiind o premiera mondiala, regulile Uniunii Europene privind inteligenta artificiala se confrunta cu un moment decisiv, in timp ce negociatorii incearca sa stabileasca ultimele detalii – discutii complicate de cresterea brusca a IA generativa care produce munca in locul oamenilor.
Sugerata pentru prima data in 2019, Legea UE privind IA era de asteptat sa fie primele reglementari cuprinzatoare ale IA din lume, cimentand si mai mult pozitia blocului celor 27 de natiuni ca un creator de tendinte la nivel mondial atunci cand vine vorba de controlul industriei tehnologice.
Dar procesul a fost blocat de o lupta de ultima ora cu privire la modul de guvernare a sistemelor care stau la baza serviciilor AI de uz general, cum ar fi ChatGPT de la OpenAI si chatbot Bard de la Google. Companiile mari din domeniul tehnologiei fac lobby impotriva a ceea ce considera ca este o suprareglementare care inabuseaza inovatia, in timp ce legislatorii europeni doresc mai multe garantii pentru sistemele de IA de ultima ora pe care le dezvolta acele companii.
Intre timp, SUA, Marea Britanie, China si coalitii globale precum Grupul celor 7 democratii majore s-au alaturat cursei pentru a crea balustrade pentru tehnologia in dezvoltare rapida, subliniata de avertismentele cercetatorilor si grupurilor de drepturi cu privire la pericolele existentiale pe care IA generativa le prezinta umanitatii. precum si riscurile pentru viata de zi cu zi.
„In loc ca Actul AI sa devina standardul global de aur pentru reglementarea AI, exista o sansa mica, dar o sansa tot mai mare ca aceasta sa nu fie aprobata inainte de alegerile pentru Parlamentul European” de anul viitor, a declarat Nick Reiners, analist de politici tehnologice la Eurasia Group, o firma de consultanta privind riscul politic.
El a spus ca „pur si simplu sunt atat de multe de gasit” la ceea ce oficialii spera sa fie o runda finala de discutii miercuri. Chiar daca lucreaza pana tarziu in noapte, asa cum era de asteptat, ar putea fi nevoiti sa se chinuie sa termine in noul an, a spus Reiners.
Cand Comisia Europeana, bratul executiv al UE, a dezvaluit proiectul in 2021, abia daca a mentionat sisteme AI de uz general, cum ar fi chatbotii. Propunerea de clasificare a sistemelor AI dupa patru niveluri de risc – de la minim la inacceptabil – a fost conceputa in esenta drept legislatie privind siguranta produselor.
Bruxelles a vrut sa testeze si sa certifice informatiile utilizate de algoritmii care alimenteaza AI, la fel ca verificarile de siguranta ale consumatorilor pentru produse cosmetice, masini si jucarii.
Acest lucru s-a schimbat odata cu boom-ul AI generativ, care a starnit uimire compunand muzica, creand imagini si scriind eseuri asemanatoare cu munca umana. De asemenea, a starnit temerile ca tehnologia ar putea fi folosita pentru a lansa atacuri cibernetice masive sau pentru a crea noi arme biologice.
Riscurile i-au determinat pe legislatorii UE sa consolideze Legea AI extinzandu-l la modelele de fundatie. Cunoscute si sub denumirea de modele de limbaj mari, aceste sisteme sunt antrenate pe teze vaste de lucrari scrise si imagini razuite de pe internet.
Modelele de baza ofera sistemelor AI generative, cum ar fi ChatGPT, capacitatea de a crea ceva nou, spre deosebire de AI traditionala, care proceseaza date si finalizeaza sarcini folosind reguli predeterminate.
Luna trecuta, haosul la OpenAI sustinut de Microsoft, care a construit unul dintre cele mai faimoase modele de fundatie, GPT-4, a intarit pentru unii lideri europeni pericolele de a permite unor companii AI dominante sa se autopoliteze.
In timp ce CEO-ul Sam Altman a fost concediat si reangajat rapid, unii membri ai consiliului de administratie cu profunde rezerve cu privire la riscurile de siguranta prezentate de AI au plecat, semnaland ca guvernanta corporativa AI ar putea cadea prada dinamicii salii de consiliu.
„Cel putin lucrurile sunt acum clare” ca companii precum OpenAI isi apara afacerile si nu interesul public, a declarat comisarul european Thierry Breton la o conferinta AI in Franta la cateva zile dupa tumult.
Rezistenta la regulile guvernamentale pentru aceste sisteme AI a venit dintr-un loc putin probabil: Franta, Germania si Italia. Cele mai mari trei economii ale UE au fost respinse cu un document de pozitie care pledeaza pentru autoreglementare.
Schimbarea inimii a fost vazuta ca o miscare de a ajuta jucatorii AI generativi de origine, cum ar fi startup-ul francez Mistral AI si Aleph Alpha din Germania.
In spatele ei „este o hotarare de a nu lasa companiile americane sa domine ecosistemul AI, asa cum au facut-o in valurile anterioare de tehnologii precum cloud (computing), comertul electronic si retelele sociale”, a spus Reiners.
Un grup de informaticieni influenti a publicat o scrisoare deschisa in care avertizeaza ca slabirea Actului AI in acest fel ar fi „un esec istoric”. Intre timp, directorii de la Mistral s-au certat online cu un cercetator dintr-o organizatie nonprofit sustinuta de Elon Musk, care isi propune sa previna „riscul existential” din AI.
Inteligenta artificiala este „prea importanta pentru a nu reglementa si prea importanta pentru a nu reglementa bine”, a declarat principalul ofiter juridic al Google, Kent Walker, intr-un discurs la Bruxelles saptamana trecuta. „Cursa ar trebui sa fie pentru cele mai bune reglementari AI, nu primele reglementari AI.”
Modelele de fundatie, utilizate pentru o gama larga de sarcini, se dovedesc a fi cea mai spinoasa problema pentru negociatorii UE, deoarece reglementarea acestora „este impotriva logicii intregii legi”, care se bazeaza pe riscurile prezentate de utilizari specifice, a spus Iverna McGowan, director al institutiei. Biroul Europei la Centrul nonprofit pentru drepturi digitale pentru Democratie si Tehnologie.
Natura sistemelor AI de uz general inseamna „nu stiti cum sunt aplicate”, a spus ea. In acelasi timp, sunt necesare reglementari „pentru ca altfel in lantul alimentar nu exista responsabilitate” atunci cand alte companii construiesc servicii cu ele, a spus McGowan.
Altman a propus o agentie americana sau globala care sa licentieze cele mai puternice sisteme AI. El a sugerat anul acesta ca OpenAI ar putea parasi Europa daca nu ar putea respecta regulile UE, dar a renuntat rapid la aceste comentarii.
Aleph Alpha a spus ca „este necesara o abordare echilibrata” si a sustinut abordarea UE bazata pe risc. Dar „nu se aplica” modelelor de fundatie, care au nevoie de reglementari „mai flexibile si mai dinamice”, a spus compania germana de inteligenta artificiala.
Negociatorii UE inca nu au rezolvat alte cateva puncte controversate, inclusiv o propunere de a interzice complet recunoasterea faciala publica in timp real. Tarile doresc o scutire, astfel incat fortele de ordine sa o poata folosi pentru a gasi copii disparuti sau teroristi, dar grupurile de drepturi se ingrijoreaza ca va crea efectiv o baza legala pentru supraveghere.
Cele trei ramuri ale guvernului UE se confrunta cu una dintre ultimele lor sanse de a ajunge miercuri la un acord.
Chiar daca o vor face, cei 705 parlamentari ai blocului trebuie sa aprobe versiunea finala. Acest vot trebuie sa aiba loc pana in aprilie, inainte de a incepe campania pentru alegerile la nivelul UE din iunie. Legea nu ar intra in vigoare inainte de o perioada de tranzitie, de obicei doi ani.
Daca nu reusesc sa ajunga la timp, legislatia va fi suspendata pana la sfarsitul anului viitor – dupa ce noi lideri ai UE, care ar putea avea opinii diferite despre IA, vor prelua mandatul.
„Exista sanse mari sa fie intr-adevar ultimul, dar exista la fel de sanse ca sa avem nevoie de mai mult timp pentru a negocia”, a declarat Dragos Tudorache, un parlamentar roman care co-conduce negocierile Parlamentului European privind Legea AI, intr-un panel. discutie de saptamana trecuta.
Biroul lui a spus ca nu este disponibil pentru un interviu.
„Este inca o conversatie foarte fluida”, a spus el la evenimentul de la Bruxelles. „O sa te tinem sa ghicesti pana in ultimul moment.”
