OpenAI, Anthropic și Google DeepMind lucrează la crearea unui organism care să supravegheze riscurile asociate inteligenței artificiale (AI), a declarat marți OpenAI pentru AFP, pe fondul solicitărilor tot mai insistente pentru un control mai bun asupra potențialelor efecte negative ale acestei tehnologii, scrie Agerpres.
Și Chris Lehane, directorul de politici globale al producătorului ChatGPT, a afirmat, citat de Bloomberg News și Reuters, că OpenAI colaborează cu rivalii Anthropic și Google DeepMind, compania deținută de Alphabet, în domeniul siguranței inteligenței artificiale.
Ideea a pornit de la o propunere a lui Demis Hassabis – CEO al Google DeepMind înainte de a deveni președintele acesteia la începutul lunii august – care a sugerat înființarea unei entități similare cu Autoritatea de reglementare a industriei financiare din SUA (FINRA). FINRA a fost înființată în baza legislației federale și funcționează sub supravegherea autorității de reglementare a pieței din SUA, SEC.
De câteva luni, principalii actori din domeniul AI solicită guvernului american să reglementeze sectorul și să supravegheze siguranța AI.
La începutul lunii august, administrația Trump a implementat un proces de evaluare a noilor modele de AI, însă participarea este voluntară, iar mecanismul specific nu a fost dezvăluit.
În urma apelului lansat sâmbătă de CEO-ul Anthropic, Dario Amodei, de a încetini dezvoltarea AI, președintele american Donald Trump și mai mulți membri ai partidului de guvernământ și-au reiterat dorința de a nu frâna acest sector, invocând oficial temerile că astfel de măsuri ar conferi un avantaj competitiv Chinei.
Înființarea unui organism propriu de supraveghere de către industrie ar necesita, probabil, adoptarea unei legislații, în special pentru a evita acuzațiile de înțelegere sau de încălcare a normelor antitrust în cadrul industriei AI.
Într-un mesaj publicat online la jumătatea lunii iulie, Demis Hassabis a propus o structură finanțată de companiile din sector, cu un consiliu format din experți independenți și reprezentanți ai ecosistemului open-source. Odată ce organizația ar deveni funcțională, principalele companii de AI ar fi obligate să își supună noile modele unei evaluări – punând un accent deosebit pe siguranță – înainte de a le lansa pe piață.
Potrivit lui Demis Hassabis, acest nou organism ar putea de asemenea să coordoneze o încetinire a dezvoltării AI, în cazul în care înțelegerea riscurilor nu ar ține pasul cu progresele inteligenței artificiale.
