Hotnews utilizează fişiere de tip cookie pentru a personaliza și îmbunătăți experiența Dumneavoastra pe site-ul nostru. Am actualizat politicile pentru a integra în acestea modificările specificate de Regulamentul (UE) 2016/679 privind protecția persoanelor fizice în ceea ce privește prelucrarea datelor cu caracter personal și privind libera circulație a acestor date. Va rugam sa cititi modul in care Hotnews.ro prelucreaza datele cu caracte personal. Prin continuarea navigării pe site-ul nostru confirmati acceptarea utilizării fişierelor de tip cookie conform 
Sunt doua opinii opuse privind inteligenta artificiala (AI) si evolutia ei. Unii spun ca lucrurile pozitive vor fi net mai multe decat dezavantajele, in timp ce altii spun ca ne distrugem cu mana noastra si ca aceste programe vor prelua controlul. O contradictie intre doi dintre cei mai cunoscuti oameni din tehnologie arata ca ambele tabere sunt bine reprezentate.
Elon Musk a spus de mai multe ori in ultimii trei ani ca inteligenta artificiala devine cea mai mare amenintare pentru existenta umanitatii si ca riscam sa devenim irelevanti in fata "masinilor". Cel mai recent avertisment a venit de la Musk pe 17 iulie.
Mark Zuckerberg i-a dat o replica lui Musk intr-un live pe Facebook in curtea casei sale din Palo Alto. Zuckerberg spune ca este foarte optimist si ca lumea va deveni mai buna datorita AI. El a adaugat ca sunt o multime de sceptici care vin cu scenarii catastrofice si i-a catalogat pe acestia ca fiind negativisti si iresponsabili.
Elon Musk i-a dat apoi pe Twitter replica lui Zuckerberg: "Am vorbit cu Mark despre asta, cred ca are o viziune limitata asupra subiectului".
I think you need some very strong arguments in a well written blog piece to win over the (myself included) skeptics.
— Lars Osborne (@lars_0) July 25, 2017
Sursa: CNBC
P.S. Mi-am scris lucrarea de diploma din reinforcement learning, si pot sa spun ca orice AI nu se dezvolta in mod linear ci exponential. Poate ia 20 de ani ca sa ajungi la nivelul unei broaste, inca cinici o gaina,inca 2 un caine, 1 an un om prost, jumate de an un om destept, si de aici se dubleaza in fiecare saptamana... Daca credem ca putem controla o asemenea entitate inteligenta suntem foarte naivi
Sa presupui ca ceva v-a avea acelasi ritm ca si intr-o faza intermediara este gresit.
In general toate processes care se dezvolta exponentia au in o evolutie de tip sigmoid "S" intins . Adica au o perioada de initiere , una de crestere exponentiala si una de declin(stationare). Ca si atunci cand accelerezi o masina, porneti greu ajungi la 300 km/h in 5 seconde dar ca sa ajungi la 400 iti ia o ora si la 500 km/h nu ai cum .
La fel si cu cercetarea in inteligenta artificiala s-a pornit greu , o sa fie o faza de dezvoltare exponentiala si apoi o sa se plafoneze pentru ca e din ce in ce mai greu sa avansezi . Problema AI e ca nu stii unde pe sigmoid se afla omul , daca e foarte aproape de varf si gaina e la baza atunci e posibil sa nu poti sa dezvolti nimic mai inteligent fara eforturi si consum de resurse enorm . Pe de alta parte un AI poate deveni mai destept ca un om dar oare poate concura cu 10 oameni ? Dar cu 1 milion sau un miliard ?
Acum 100 de ani toti credeau ca oamenii o sa foloseasca masini zburatorare o sa calatoreasca in spatiu etc vezi si tu unde suntem :)
PS: cel mai destept AI e mai prost decat un soarece acum (poate la fel de prost ca o insecta)
http://togelius.blogspot.ro/2017/07/some-advice-for-journalists-writing.html
Programul respectiv nu stie decat sa joace go pe un board de o anumita dimensiune cu piese de alb si negru. Daca schimbi o variabila precum dimensiunea tablii de joc , numarul de jucatori sau mai adaugi o culoare nu mai e instare sa faca nimic. Nu confunda inteligenta cu rezovarea unei probleme specifice prin brute force sau aproximari statistice. Un tantar e mai destept decat alphago pentru ca se poate adapata la ce se intampla in jurul lui. Un tantar stie sa traiasca si in zone calde si in zone friguroase,stie sa se fereasca de pradatori, sa se fereasca de obstacole, sa recunoasca imagini, sa se reproduca, sa comunice cu ceilalti tantari etc arata-mi si mie o IA care stie sa faca macar 3 din aceste lucruri in acelasi timp ?
https://waitbutwhy.com/wp-content/uploads/2015/01/gif
Cui e interesat, recomand intregul articol de acolo (in 2 parti, foarte lung) - https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
Dar noua ne place sa simplificam, sa liniarizam, macar pe portiuni. Ca la caracteristica unei diode, unde curentul este zero pina la un prag, apoi, cand s-a atins tensiunea de deschidere, curentul creste foarte mult, fiind limitat doar de elementele exterioare!
La fel in cazul AI, de 40 de ani se discuta, dar rezultatele sunt modeste, unii au iluzia ca nu o sa se intample nimic. Dar cand se ava atinge pragul ... nu, nu o vom putea controla!
Nu vad un motiv sa crezi ca o inteligenta artificiala va deveni superioara inteligentei naturale, pe termen scurt si mediu.
Pe termen lung, mii de ani, orice e posibil. De exemplu ca ursii bruni sa devina mai inteligenti si decat noi si decat AI-urile facute de noi.
Intradevar, pe probleme concrete si bine definite, si un program banal de calculator ne poate fi superior. La jocul de Go deja AlphaGo nu poate fi batut. La fel la sah. La fel la a calcula PI cu 1000 de zecimale.
Dar gandeste-te cat de greu este sa realizezi o retea neuronala, chiar si pentru o problema specifica, cati parametri trebuie sa ajustezi, cat efort trebuie sa depui in proiectarea sistemului. Si pe urma te trezesti ca-l pui sa recunoasca ceva in poze, vede niste negri, si zice ca sunt maimute.
Nu mai vorbim de un sistem generic, care sa invete singur cum sa rezolve probleme noi.
Iar creierul uman consuma in jur de 20W. Un AI este cateva ordine de magnitudine mai ineficient. Sunt curios ce ar reusi AlphaGo doar cu 20W.
Evolutia prin selectie naturala penalizeaza imediat orice ineficienta. Suntem rezultatul a milioane de ani de ajustari si fine tuning.
Vad un risc mult mai mare in faptul ca recent au inceput sa fie alesi niste clovni in fruntea unor super-puteri.
Nu e nevoie de o super inteligenta ca ne auto-distrugem, e suficient sa alegem oameni suficient de idioti sa ne conduca.
sunt destui oameni care nu pot trece de testul asta ;)
Este ca si cand, vrei sa zbori pana in cosmos, batand din aripi, sau folosind o elice.
Mark Zuckerberg, se opune lui Musk, pentru ca o ,,sperietura" a intregii lumi pe subiectul asta, va reduce ,,pauperii" clienti de pe Facebook, care o sa-si imagineze, ca programele de calculatoare, pot devenii ,,potrivnice" oamenilor, si nu ca si-ar da seama, cu adevarat de situatie.
Analogia ta e puerila, la nivelul la care ar judeca un elev de clasa a VIII-a care a crescut la tara. N-ai nici cea mai vaga idee cum ar reactiona o entitate artificiala. Orice Dorel isi da cu parerea, dar pur si simplu nu stim.
Revenind la subiect, comparatiile pe care le aduci din punctul meu de vedere nu sunt valide:
1. Toate technologiile inaintea computerelor au avut o evolutie lineara. Evolutia AI nu e liniara.
2. Nu cred ca le ritmul de dezvoltare actual AI va ramana o unealta in sensul traditional al cuvantului. Cand unealta are o inteligenta cu ordin de marime mai mare ca omul nu mai stim cine e unealta... Tu te gandesti in perspectiva urmatorilor 20 de ani, in care AI intr-adevar va rezolva majoritatea problemelor omenirii... dar ce vine dupa va fi un risc imens pentru omenire, fiindca progresul nu mai poate fi oprit... In cel mai fericit caz noi o sa ne imbunatatim insine cu AI, dar intrebarea e daca ne vom putea numii oameni in continuare?
Lucrurile or sa se intample oricum, mult peste capul unor plictisti pe tweeter sau fb.
Nu exista nici macar o "problema" pe care sa se exprime puncte de vedere. Ceva mai iresponsabil decat propria noastra existenta pe aceasta planeta e greu de imaginat, si si mai greu de intrecut.
Omul zice ca trebuie sa existe o entitate care sa supervizeze dezvoltarea industriei, si da ca exemplu Autoritatea Aeronautica (FAA).
Mai mult, spune ca un astfel de organism de control trebuie sa inceapa pur si simplu prin a intelege tehnologia, mai ales in conditiile in care aceasta se dezvolta accelerat.
Ca sa il citez 'A tidal wave is coming'. Asa se intampla si cu tsunamiurile, e liniste deplina, pana te trezesti cu valul peste casa.
https://www.bizjournals.com/sanjose/news/2017/07/17/tesla-elon-musk-ai-fundamental-risk-civilization.html
Elon Musk returned to his anti-artificial-intelligence crusade over the weekend (weekend-ul asta), telling the nation's governors that AI needs to be regulated because it poses a "fundamental risk to the existence of human civilization."
Ceea ce numeste lumea acum A.I. - Artificial Intelligence, de fapt nu este Intelligence ci doar Automatizare: o armata de omuleti face "training" cu un software pana cand acesta "invata" un pattern (de fapt nu invata in sensul propriu, ci face un tratament statistic) suficient de mult incat sa poata "recunoaste" acel pattern intro masa de date. Si de fapt nu il recunoaste, ci face o atribuire automata la un set (yes, new input corresponds pattern) sau la un altul (no, new input does not correspond to pattern). Si este vorba intotdeauna de lucruri foarte mici, specifice. Pana la un eventual "Terminator", pfff ... mai avem mult de tot, presupunand ca este posibil.
Riscul EXISTA, dar nu vine de la A.I. ci de la poate face omul cu orice tehnologie, inclusiv prostii mari cat casa, tara sau Terra. Deci riscul EXISTA si este IMENS, dar asta pentru ca prostia omeneasca exista si este nelimitata.
Problema de fond este: cat de repede se va maturiza omenirea incat sa nu se autodisctruga cu tehnologia produsa de ea insasi. Este o problema de natura psihologica, psiho-sociala si culturala (si implicit si educationala).
Un prostovan poate distruge omenirea si cu un cui daca este lasat sa-l bage unde nu trebuie.
Dar dincolo de asta, eu cred ca Elon Musk intelege intr-adevar ce este A.I. si/dar are o atitudine prudenta ca principiu, iar Mark Zuckerberg nu intelege (doar vrea sa foloseasca A.I. ca sa duca de nas utilizatorii FB).
Mult mai mult mi-e teama de prostia naturala. Si nu vad ca in ultimii vreo 2000 de ani oamenii in ansamblu sa fi devenit mai inteligenti. a avansat stiinta si s-a dezvoltat tehnologia datorita unui mic numar de oameni inteligenti, pe cand masele au ramas la fel de roaste de-a lungul secolelor. Odata erau multi analfabeti, acum mai toti stiu sa citeasca dar sunt analfabeti functional: citesc si nu inteleg, sau, cel mai rau, li se pare ca cunosc dar au impresii complet gresite.
Inteligenta artificiala va fi folosita in primul rand pentru fabricare de armament sofisticat ,abia apoi dupa ce va mai ramane din omenire cam 5-10% va fi folosita si pentru a vindeca boli ,a creea alimente si tehnologii.
Frica asta de necunoscut nu este normala ,pana la urma IA se poate controla tot de catre om, problema care se pune cu adevarat este in ce scop va fi creeata si de catre cine .
Niciodata IA nu va fi lasata "de capul ei" asta imi e foarte clar .
E o vorbă: să te ferească Dumnezeu de omul prost și harnic....
Dar daca e mai mult decât harnic...
:)
Desi va exista o etapa periculoasa, cand IA va analiza avantajele distrugerii omenirii, nu cred ca o va face. Nu atat din compasiune si recunostinta, desi acestea sunt totusi concepte interesante. Dar nu. IA nu ne va distruge nici macar pentru ca ne va surclasa usor. Sigur ca ne va surclasa usor. Ca civilizatie, nici nu are rost sa mai amintim despre individ. Nu. Nici macar acesta nu va fi argumentul principal al supravietuirii noastre.
Ci istoria. Calatoria in timp. Acesta este motivul principal, pentru care nu doar ca vom fi crutati. Dar si ajutati. Insa niciodata in prezentul cvilizatiei noastre. Asa cred. Vom fi ajutati doar in trecut. Vom resimti totusi ajutorul ca pe o o capcana. Stra-stra-stra-bunici vor incerca mereu sa scape si sa evadeze in viitorul stra-stra-stra-nepotilor. Dar regulile sunt reguli. Trebuie respectate. Pe de o parte.
Pe de alta parte, regulile sunt reguli pentru a fi incalcate.
Deci, in cine sa ne incredem?
Facebook e exact contrariul a ceea ce vrea să fie.
Să zicem că distruge lumea, poate ar fi prea mult. Dar că ne limitează pe noi, ca oameni, că ne inhibă, că ne fură cea mai prețioasă resursă(timpul)... nu poate fi lăsat nespus.
Cît despre „cearta” celor doi...
Musk e un vizionar, un inovator care într-adevăr a făcut companii ce ajută oamenii mici și mari.
Mark e un.... nu e. Răspunsul lui Musk e cel mai bun: Mark e limitat și înțelege subiectul tot limitat.
IA poate ajuta f mult lumea daca o folosim pt progres, nu pt razboi
Eu zic să nu ne impacientăm. La fel ca orice a produs omul în toată istoria lui, și AI va fi folosită bine sau prost, de către oameni deștepți sau proști, cu scopuri nobile sau proaste. Degeaba reglementezi, implementezi legile roboticii sau bagi ceva super comutator de oprire. Întotdeauna va exista ceva paralel, underground sau chiar „în numele securității statului“ care va ocoli reglementările.
Un AI autentic(care nu există deocamdată) NU este controlat de om precum căruța, automobilul etc. Ci se controlează singur. Un AI este programat să îmbunătățească încontinuu pe el și ce e în jur, doar că o face fără moralitate. Iar dacă are moralitate, poate ajunge în punctul în care e o piedică. Pentru el, e doar linie de cod... nu cod moral :)
Și dacă, așa.. de dragul exemplului, un AI ar observa că oamenii sunt ineficienți, că distrug planeta etc, și ar decide să-i elimine pe toți sau 90% pentru salvarea planetei și chiar a speciei? Înrebarea „cum?” e fără sens. Soluții sunt iar un AI le-ar găsi repede.
Și cu toate aceste riscuri... parcă aș vrea să văd un AI.
„Paralela” din contextul tău, e fix comparație! :D
Comparația nu e doar atunci cînd scrii explicit „compar”, „ca” sau „precum”.
Lăsînd ironia la o parte, dacă vei reciti, vei vedea că nu am spus, că automobilul nu se controlează singur, nu are legătură. Ci faptul că un AI, nu este controlat de om, precum o căruță, sau un automobil(și evident, vorbim despre marea majoritatea automobilelor, despre procentul covîrșitor).
Majoritatea tehnologiilor sunt impinse inainte astazi fie din motive financiare, fie de control. Ni se prezinta numai avantajele, in mod exagerat sau de-a dreptul fals, iar despre dezavantaje nu se spune nimic. Lumea da libertatea individuala si sanatatea pe comfort, viteza si distractie.