Roboții de chat cu inteligență artificială au stârnit temeri că ar putea scăpa de sub control, dar ei suferă și de un tip de deteriorare numit „drift” (derapaj), arată o analiză Wall Street Journal. O echipă de cercetători din care face parte și româno-canadianul Matei Zaharia a demonstrat că noua versiune ChatGPT se descurcă mai prost la matematica de bază decât prima sa versiune, scrie G4Media.ro.
Matei Zaharia este informatician româno-canadian specializat în big data, machine learning și inteligență artificială. El este co-fondator și CTO al Databricks și profesor asociat de informatică la Universitatea Stanford.
Instrumentele de inteligență artificială au generat teama că își vor îmbunătăți constant performanțele și vor amenința omenirea. Dar cercetarea publicată săptămâna trecută de echipa din care face parte Matei Zaharia dezvăluie o provocare fundamentală a dezvoltării inteligenței artificiale: ChatGPT, dezvoltat de startup-ul OpenAI și cumpărat de Microsoft, a devenit mai slab la efectuarea anumitor operații matematice de bază.
Cercetătorii de la Universitatea Stanford și de la Universitatea din California, Berkeley, au declarat că deteriorarea este un exemplu al unui fenomen cunoscut de dezvoltatorii de inteligență artificială sub numele de drift, în care încercările de a îmbunătăți o parte a modelelor de inteligență artificială extrem de complexe fac ca alte părți ale modelelor să aibă performanțe mai slabe.
„Schimbarea într-o direcție poate înrăutăți situația în alte direcții”, a declarat James Zou, profesor la Stanford, afiliat la laboratorul de inteligență artificială al școlii și unul dintre autorii noii cercetări. „Acest lucru face foarte dificilă îmbunătățirea constantă”.
Citește mai mult pe G4Media.ro.
Redacția
G4Media.ro
Diana Ghimiși
Ioana Nicolescu