Cursa pentru dezvoltarea AI este scăpată de sub control”, se arată într-o scrisoare deschisă semnată de mai multe personalități marcante din domeniul tehnologiei și inovației, în care somează toate companiile să stopeze imediat dezvoltarea în domeniul Inteligenței Artificiale, scrie The Guardian.

Elon Musk, fondatorul Tesla, se numără printre semnatari, alături de Steve Wozniak, cofondator Apple, filosoful Yuval Noah Harari, precum și numeroși oameni de știință care lucrează în domeniul AI.

Scrisoarea pledează pentru stoparea procesului de dezvoltare a Inteligenței Artificiale. Inițiativa este motivată de îngrijorările ridicate de avansul AI pentru securitatea umanității

”Sistemele puternice de AI ar trebui dezvoltate doar atunci când suntem siguri că efectele lor vor fi pozitive și riscurile lor pot fi controlate”, se menționează în scrisoare.

”Riscăm să pierdem controlul asupra civilizației noastre?”
”Sistemele de AI contemporane devin acum competitive față de nivelul uman în ceea ce privește sarcinile generale și de aceea trebuie să ne întrebăm: ar trebui să lăsăm mașinile să inunde canalele noastre de informații cu propagandă și neadevăruri?

Ar trebui să permitem dispariția prin automatizare a tuturor job-urilor, inclusiv a celor care aduc satisfacție celor care le îndeplinesc?

Ar trebui să dezvoltăm minți non-umane care ar putea ajunge să ne depășească numeric, să devină mai deștepte decât noi, să ne facă redundanți și să ne înlocuiască? Ar trebui să riscăm să pierdem controlul asupra civilizației noastre?”, întreabă semnatarii scrisorii.

”Prin urmare, cerem tuturor laboratoarelor AI să intre imediat într-o pauză de cel puțin șase luni, timp în care să înceteze procesul de învățare, dezvoltare, îmbunătățire și rafinare a sistemelor AI mai puternice decât nivelul GPT-4.

Această pauză ar trebui să fie publică și să poată fi verificată, iar etapa să includă toți actorii-cheie. Dacă o astfel de pauză nu poate fi pusă rapid în aplicare, guvernele ar trebui să intervină și să instituie moratorii”, mai solicită semnatarii scrisorii.

”Laboratoarele AI și experții independenți ar trebui să folosească această pauză pentru ca împreună să poată dezvolta și implementa un protocol de securitate comun pentru dezvoltarea sistemelor avansate de AI, precum și pentru auditarea riguroasă și supravegheată a acestor procese de către experți independenți externi”, este recomandarea scrisorii deschise.