Un sistem de generare Fake text bazat pe Inteligență Artificială ar putea fi prea periculos pentru a fi făcut public, spun creatorii săi

de Ștefan Gâlmă     HotNews.ro
Vineri, 15 februarie 2019, 16:16 Economie | IT


Fake News
Foto: pixabay.com
Creatorii unui nou sistem revoluționar care, prin inteligență artificială, generează noi texte de ficțiune, denumite și "deepfakes for text", au luat decizia foarte puțin obișnuită de a nu-și publica lucrările de cercetare, de teama că acestea ar putea fi folosit în scopuri distructive, The Guardian.

OpenAI, o organizație nonprofit de cercetare științifică, susținută de giganți ai industriei precum Elon Musk, Reid Hoffman sau Sam Altman, a declarat că noul generator de text, numit GPT2, este atât de performant încât organizația s-a abătut de la practica obișnuită de a publica cercetările care au dus la sistemul inovator, pentru a permite creatorilor să discute mai îndelungat ramificațiile tehnologice ale noii descoperiri.

La bază, GPT2 este un generator de text. În sistemul Inteligenței Artificiale sunt introduse fragmente de text, de la câteva cuvinte până o pagină întreagă, iar acesta produce un text nou bazat pe predicțiile pe care le face în funcție de ordinea logică a textului. Acest sistem redefinește limitele a ceea ce se credea a fi posibil pentru generatoarele de text, atât din punct de vedere calitativ, cât și cantitativ.

Când este folosit pentru simpla generare de text, mecanismul este capabil să producă pasaje care continuă în mod organic fragmentele care i-au fost deja oferite, atât logic cât și stilistic. În foarte puține cazuri sunt depistate erori specifice modelelor anterioare de inteligență artificială, precum uitarea subiectului în mijlocul paragrafului sau amalgamarea sintaxei în fraze mai lungi.

Când în sistem a fost introdus un fragment din "1984" de George Orwell - "Era o zi rece de aprilie și ceasurile băteau ora 13" - mecanismul a recunoscut stilul beletristic și tonul ușor futurist, continuând cu următorul paragraf: "Eram în mașină, mergând spre noul loc de muncă în Seattle. Am băgat benzină, am pus cheia în contact și am pornit la drum. Îmi imaginam cum avea să fie ziua. 100 de ani in viitor. În 2045, eram profesor într-o școală dintr-o regiune săracă din partea rurală a Chinei. Am început cu istoria Chinei și istoria științelor."

Bazat pe primele câteva paragrafe dintr-un articol despre Brexit al celor de la The Guardian, sistemul generează paragrafe jurnalistice plauzibile, în care se regăsesc citate ale lui Jeremy Corbyn, declarațiile ale purtătorului de cuvânt ale prim-ministrului, menționându-se chiar și granițele Irlandei.

"Premierul a anunțat că dorește în mod echivoc să părăsească Uniunea Europeană cât mai repede cu putință și că acest lucru se va întâmplă în timpul mandatului ei de negocieri, fapt confirmat și în discursul Reginei", afirmă o mostră a unui astfel de paragraf.

Din punct de vedere al cercetării științifice, GPT2 este revoluționar din două perspective. Unul din ele este amploarea, spune Dario Amondei, directorul de cercetare al OpenAI. Noile modele sunt de 12 ori mai mari și baza de date este de 15 ori mai amplă față de modelele anterioare bazate pe inteligența artificială. Sistemul a fost antrenat pe o bază de date de 10 milioane de articole, selectate din link-uri de pe rețeaua de socializare Reddit care adunau mai mult de 3 voturi. Baza de date are o dimensiune de 40 de GB, suficient pentru a stoca 35.000 de exemplare ale lui Moby Dick.

Cantitatea de date pe care GPT2 o poate procesa a afectat în mod direct și calitatea textului generat, oferindu-i mecanisme de înțelegere a textului scris. Acest fapt a condus la o a două inovație, GPT2 având o arie de expertiză mult mai extinsă, putând fi folosit în scopuri mult mai generale decât modele precedente. Structurând textul care este introdus, algoritmul poate genera rezumate, traduceri și poate chiar trece teste simple de citire și înțelegere, de multe ori depășind performanțele unor sisteme inteligente artificiale construite special pentru un anumit domeniu.

Pe de altă parte, această calitate ridicată a determinat OpenAI să își contrazică propria politică de publicare a cercetărilor pe care se bazează proiectele sale, pe termen scurt, pentru a evalua posibilitățile în care sistemul poate fi folosit de utilizatorii rău intenționați. "Trebuie să testăm exact ce poate și ce nu poate face acest mecanism", a declarat Jack Clark, directorul de politici al organizației. "Dacă nu poți anticipa toate capabilitățile unui model, trebuie să-l împingi până la limita acestor capabilități pentru a vedea ce poate face. Există mulți oameni capabili să folosească sistemul în moduri pe care noi nu ni le putem închipui."

Pentru a ilustra acest fapt, echipa OpenAI a creat o versiune a modelului GPT2 cu câteva modificări minore care poate genera un număr infinit de recenzii (pozitive sau negative) pentru diverse produse. Anunțurile spam sau știrile false sunt două dezavantaje evidente, dată fiind natură necontrolată a Inteligenței Artificiale. Sistemul ar putea facil să genereze texte de îndoctrinare, teorii ale conspirației și multe altele.

"Scopul a fost să expunem toate posibilitățile sistemului că să prevenim lumea în legătură cu ce ar putea ajunge în spațiul public în câțiva ani. Am un termen pentru asta: "Liftul din Iad", care mereu reduce costurile și prețul noilor tehnologii. Regulile prin care poți să controlezi tehnologia s-au schimbat fundamental", a adăugat Clark. "Nu spunem că știm exact cum să procedăm, nu putem spune noi care este linia pe care trebuie mers. Încercăm să dezvoltăm gândirea critică și construim drumul din mers".








Citeste doar ceea ce merita. Urmareste-ne si pe Facebook si Instagram.





2228 vizualizari

  • -3 (11 voturi)    
    nasol (Vineri, 15 februarie 2019, 16:27)

    Mazeta [utilizator]

    Dacă apare un computer care poate genera fake news, 90% dintre ziariști rămân șomeri.
    • +7 (7 voturi)    
      i-auzi mai mazeto (Vineri, 15 februarie 2019, 17:52)

      alex34 [utilizator] i-a raspuns lui Mazeta

      trebuie sa-ti cauti servici hahahahaaha
    • +6 (6 voturi)    
      ! (Vineri, 15 februarie 2019, 19:10)

      tudorr [utilizator] i-a raspuns lui Mazeta

      Pai si tu ramai fara sursa de venit, comentariile tale fiind tot un fel de spam si fake news.ru!
    • +2 (2 voturi)    
      nasol (Sâmbătă, 16 februarie 2019, 11:17)

      barc [utilizator] i-a raspuns lui Mazeta

      Dacă apare un computer care poate genera fake news, 90% dintre postacii rusi rămân șomeri
  • +6 (6 voturi)    
    . (Vineri, 15 februarie 2019, 16:36)

    theo667 [utilizator]

    Si in sfarsit Abulafia lui Belbo a prins viata.
    Vom fi condusi de stapani care nici macar nu sunt oameni
  • -7 (9 voturi)    
    Hmmm (Vineri, 15 februarie 2019, 16:46)

    Soarele [utilizator]

    Mai este si varianta ca au tocat banii pe prostii, si pe urma au venit cu ideea ca "decat sa recunoastem ca am facut-o de oaie, mai bine zicem ca am reusit atat de bine incat este mai prudent sa nu publicam rezultatele".
  • +5 (5 voturi)    
    ! (Vineri, 15 februarie 2019, 16:53)

    tudorr [utilizator]

    Pai asta face armata psd zilnic...


Abonare la comentarii cu RSS

ESRI

Întâlniri on-line | #deladistanță
Prin „Queen’s Gambit” Netflix ne arată că geniile sunt banale până când ajung subiecte de serial

Cursă contra-cronometru pentru România să cheltuiască cele 30 de miliarde de euro din planul de redresare. Comisarul European pe Transporturi: „Ultimele plăți se pot face în 2026. După acel termen, lucrările trebuie finanțate din alte surse”

Trenuri de legendă și amintiri dintr-o epocă ce nu va mai reveni - Octavian Udriște: De locomotiva cu aburi trebuia să ai grijă ca de o ființă, avea mai mult suflet

VIDEO Drumul Expres DX12 Craiova - Pitești: Imagini din dronă cu tronsonul unde românii de la UMB lucrează în forță. „Deja pe 70 la sută se va ajunge în situația de a se putea turna asfalt”

​VIDEO. 25 de întrebări despre vaccinul anti-COVID-19 (3): Am 20 de ani și nu am fost niciodată bolnav, de ce ar trebui să mă vaccinez?

Povestea omului care a făcut prima fotografie acum aproape 200 de ani

Autostrada Sibiu - Pitești - Bătaie mare pe cel mai scump tronson licitat vreodată în România: 15 oferte depuse de la firme din Europa, Turcia și China / UPDATE: Care sunt constructorii

Lupta cu sistemul: Nicușor Dan a suspendat un funcționar care a dat aviz de defrișare pentru grădina unor case de pe Kiseleff, unde ar putea apărea blocuri de 4 etaje, și pe care primarul încearcă să o salveze de 10 ani

Investiții personale în criză. Andrei a investit de Black Friday, nu a cheltuit. N-are acasă un Turbion în miniatură, dar gândește pe termen lung

Top 10 articole cele mai ...



Hotnews
Agenţii de ştiri

Siteul Hotnews.ro foloseste cookie-uri. Cookie-urile ne ajută să imbunatatim serviciile noastre. Mai multe detalii, aici.



powered by
developed by