Geoffrey Hinton, numit adesea „Godfather of AI” pentru că a pus bazele inteligenței artificiale moderne, vorbește despre un avertisment serios privind viitorul acestei tehnologii, potrivit The Telegraph.

Mesajul nu e deloc optimist. Avertismentul vine de fapt de la cercetătorul Paul Christiano, care a spus la Hinton Lectures, organizate de AI Safety Foundation la Toronto, că există „un risc ridicat ca AI să preia controlul în următorii trei ani” și că un asemenea scenariu ar putea deveni realitate chiar în 6-12 luni. Hinton însuși a spus că estimarea lui e că AI ne va depăși în cel mult zece ani, dar că Christiano vorbește despre 18 luni, ceea ce i se pare „terifiant”, și că intenționează să transmită acest mesaj liderilor guvernamentali.

Ideea centrală a avertismentului e simplă și în același timp înfricoșătoare: dacă o inteligență artificială devine cu adevărat super-inteligentă, nu mai există garanția că noi, oamenii, vom fi cei care o controlează. Dimpotrivă, rolurile s-ar putea inversa complet. Hinton a fost foarte clar în privința asta, spunând că, dacă AI ajunge super-inteligent, nu tu vei fi cel care o controlează, ci ea te va controla pe tine.

E o afirmație grea mai ales venind din partea cuiva care a lucrat ani de zile la dezvoltarea acestor sisteme și care înțelege din interior cum funcționează. Hinton a luat Premiul Nobel pentru fizică în 2024, iar pe 3 noiembrie i-a spus lui The Guardian că un incident major legat de AI, cum ar fi o pană de curent sau o problemă serioasă la sistemul bancar, ar putea să apară chiar anul acesta sau anul viitor.

Ce face acest avertisment și mai relevant e contextul în care apare. AI a devenit parte din viața de zi cu zi a aproape tuturor, de la asistenți virtuali până la instrumente folosite în companii mari. Viteza cu care se dezvoltă aceste sisteme e amețitoare, iar Hinton pare să spună că tocmai această viteză ar putea fi problema. Dacă dezvoltarea continuă în același ritm, iar sistemele devin din ce în ce mai capabile fără ca mecanismele de control să țină pasul, scenariul în care oamenii pierd controlul nu mai pare science fiction, ci o posibilitate reală.

Hinton nu oferă soluții miraculoase în acest mesaj, însă pune foarte clar problema pe masă, iar faptul că vine de la cineva atât de respectat în domeniu face ca lumea să înceapă să ia în serios discuția, nu doar cercurile de specialiști care vorbesc despre asta de ani buni.

Hinton nu e singurul om din interiorul industriei care trage semnale de alarmă. Tot mai mulți cercetători și ingineri care au lucrat la dezvoltarea AI încep să vorbească deschis despre riscuri, deși mulți dintre ei continuă să lucreze în același domeniu.

Rămâne de văzut dacă aceste avertismente vor duce la măsuri concrete din partea companiilor și guvernelor. Ce e sigur e că discuția despre limitele și pericolele AI nu mai poate fi ignorată.

Sursa: LADbible