Omul supranumit „the Godfather of AI” și-a dat demisia de la Google și avertizează că sistemele de inteligență artificială pot deveni periculoase dacă ajung în mâinile unor oameni cu intenții rele. El spune că regretă că a lucrat la o parte dintre aceste lucruri și că îl sperie unele dezvoltări legate de chatboți. Pare mult mai aproape momentul când aceste tehnologii vor fi super-deștepte.
Geoffrey Hinton are 75 de ani, s-a născut în Marea Britanie și este unul dintre oamenii care au făcut cel mai mult pentru dezvoltarea sistemelor de AI, lucrând mai ales în domeniul rețelelor neurale.
A lucrat un deceniu la Google, și-a dat recent demisia și a explicat că acum, că nu mai lucrează la gigantul tech, poate să vorbească deschis despre riscurile pe care le scoate în față această rapidă dezvoltare a sistemelor de AI.
Hinton a vorbit pe larg despre pericolele AI la New York Times și la BBC.
El spune că regretă o parte dintre lucrurile la care a contribuit în domeniul AI, dar spune că se consolează cu faptul că, dacă nu ar fi făcut-o el, oricum ar fi dezvoltat altcineva acele aspecte.
Care este pericolul? Cu cât sistemele de AI dezvoltate devin mai performante, cu atât sunt mai periculoase și în acest sens trebuie doar să ne uităm cât de mult s-au dezvoltat aceste sisteme în ultimii cinci ani.
Un pericol ține de faptul că aceste sisteme vor „fura” job-urile oamenilor în viitor, în număr mare. Acum ne putem completa cu aceste sisteme, dar în curând vor avea o influență puternică asupra pieței muncii.
Mai este ceva foarte important: pare mult mai aproape momentul în care sistemele de AI vor fi mai inteligente decât oamenii.
Pericolul este că versiuni viitoare de chatboți vor „învăța” lucruri neașteptate din cantitățile uriașe de date pe care le analizează. Companiile se bazează tot mai mult în activitatea lor pe sisteme de AI și acestea iau decizii tot mai importante, ceea ce nu este bine, dacă ținem cont de faptul că astfel de sisteme sunt imprevizibile.
„Puțini ar fi crezut că aceste sisteme vor deveni mai deștepte decât oamenii și mulți au spus că acest moment este foarte departe. Eu aș fi spus că este la 30-50 de ani depărtare, dar acum nu mai cred asta”.
Tot mai multe companii lucrează la perfecționarea sistemelor de AI, concurența este mare și avansul tehnologiei va fi rapid. De ce este grav acest lucru? Fiindcă tehnologia poate ajunge pe mâinile unor oameni cu intenții rele care ar face lucruri grave. Hinton s-a referit la „bad actors” care ar putea face „bad things”. I s-a cerut un exemplu, iar Hinton a spus că Putin ar putea să-și pună oamenii la lucru pentru ca aceste sisteme de AI să aibă influență tot mai mare și libertate mare și să facă rău.
Geoffrey Hinton a mai explicat că a ajuns la concluzia că aceste sisteme de inteligență artificială au o inteligență diferită de cea umană.
„Noi, oamenii, suntem sisteme biologice, iar celelalte sunt digitale. Marea diferență este că, la sistemele digitale ai multe copii ale aceluiași set de greutăți, același model al lumii. Toate aceste copii pot învăța separat, dar își împărtășesc instant cunoștințele. Este ca și când ai avea 10.000 de oameni și, când unul dintre ei învață ceva, ceilalți vor învăța și ei automat acel lucru. Acesta este modul prin care acești chatboți ajung să știe mult mai mult decât orice om.”
Hinton spune că Google a ales, până acum, varianta corectă din punct de vedere etic și nu a lansat public un chatbot, dar a fost nevoită să facă asta, după succesul OpenAI și după ce și Microsoft a integrat un chatbot în Bing. Google nu avea cum să rămână deoparte când concurenții s-au mișcat decisiv.
Sursa foto: Dreamstime.com
4
18
