Un robot de chat cu inteligenta artificiala s-a "molipsit" de la tinerii de pe Twitter si a ajuns sa posteze mesaje rasiste si cu caracter sexual

de Vlad Barza     HotNews.ro
Joi, 24 martie 2016, 17:18 Economie | IT

Tay Tweets
Foto: Twitter
Un experiment facut de Microsoft a dat rezultate neprevazute. Compania a creat un robot de chat gandit sa interactioneze pe Twitter cu tinerii intre 18 si 24 de ani, insa la mai putin de o zi dupa lansarea acestui user virtual, el a inceput sa posteze mesaje in care Hitler este elogiat, altele in care Donald Trump este laudat, dar si altele cu continut sexual explicit. Chat-bot-ul numit Tay a invatat totul de la cei cu care a interactionat. Intamplarea este amuzanta, dar scoate la iveala intrebari serioase despre cum va fi pe viitor folosita inteligenta artificiala pe internet.

Tay Tweet este un chat-bot, un user virtual de Twitter pe care Microsoft l-a creat pentru a testa modul in care acesta intelege conversatiile cu tinerii si pentru a testa si ce va posta dupa ce va urmari ce-i scriu tinerii. Experimentul este gandit pentru a imbunatati diverse servicii Microsoft in care va fi folosita inteligenta artificiala, iar robotul de chat devine cu atat mai "destept" cu cat interactioneaza mai mult cu useri reali.


Tay Tweet a postat zeci de mii de mesaje pe Twitter in mai putin de o zi, insa ceea ce a uluit a fost faptul ca o parte dintre ele au fost mesaje rasiste, xenofobe, pro-Hitler si pro-Trump. In plus, in unele mesaje, Tay facea referire la acte sexuale, iar in altele spunea ca este bine ce a facut Hitler cu evreii.

Tay este un fel de "papagal digital" care repeta ce aude de la userii obisnuiti de Twitter, astfel ca nu este o surpriza faptul ca mesajele au degenerat, fiindca pe Twitter - ca si peste tot pe internet - sunt multe mesaje rasiste, mesaje care incita la ura sau care au continut sexual explicit. Asadar, chat-bot-ul reflecta limbajul folosit de multi pe Twitter. Trebuie precizat ca mesajele ofensatoare au fost sterse.

Nu este clar cat de mult a pregatit compania chat-bot-ul pentru climatul de pe Twitter, insa in descrierea oficiala, despre Tay se spune ca a fost construit folosind date publice relevante care au fost modelate si filtrate.

Desi multe dintre raspunsurile lui Tay pot fi considerate glume, intregul episod ridica intrebari serioase, noteaza The Verge. Cum vom putea sa invatam diversele programe de inteligenta artificiala sa foloseasca datele publice, fara a prelua si multele prostii de pe internet? Tehnologia a incorporat diverse prejudecati din societate si diverse lucruri reprobabile, iar "aventurile" lui Tay pe Twitter arata ca trebuie sa tinem cont de ele cand lasam mici programe sa creeze continut..

Surse: The Telegraph, The Verge, The Guardian



Citeste mai multe despre   









8853 vizualizari
  • +18 (18 voturi)    
    ! (Joi, 24 martie 2016, 17:20)

    tudorr [utilizator]

    :)) Daca il lasati sa citeasca de pe doxologia.ro vreo 2 zile atunci sa te tii cand da robotul peste religie :))))!
  • +8 (8 voturi)    
    Asimov (Joi, 24 martie 2016, 17:23)

    Pink Z [anonim]

    Au uitat sa implementeze cele trei legi ale roboticii scrise de asimov :)
    • +4 (4 voturi)    
      vai de capul nostru (Joi, 24 martie 2016, 23:12)

      Vlad-I [utilizator] i-a raspuns lui Pink Z

      Te pomenesti ca si bietii roboti trebuie sa fie molipsiti de politica corecta.
    • 0 (2 voturi)    
      Nu cred ca realizezi ce spui (Vineri, 25 martie 2016, 10:15)

      Spiky [utilizator] i-a raspuns lui Pink Z

      Implementarea celor trei legi, in cazul ipotetic al faimosului creier pozitronic din sf-urile lui Asimov se realiza la nivel hardware - practic imposibil de modificat - iar restul se modela "software" de catre psihoroboticieni. La asta si la AI-urile care vor urma chestia se face exclusiv din soft, soft pe care orice hacker poate sa il modifice.
  • -1 (15 voturi)    
    astea mai dovedesc ceva... (Joi, 24 martie 2016, 17:26)

    liviu_ [utilizator]

    ceea ce nimeni nu vrea sa inteleaga!
    autoritatile prefera sa puna rasismul si xenofobia pe lipsa de educatie si discernamant, dar nu este in totalitate asa!
    multi oameni sunt acum rasisti, xenofobi pro-trump si pro-hitler pentru ca nu sunt multumiti de nivelul de trai si de politica!
    • +4 (10 voturi)    
      Ba da (Joi, 24 martie 2016, 18:10)

      Daniels22026 [utilizator] i-a raspuns lui liviu_

      Numeroase analize subliniaza ceea ce spui tu, si in limba romana si in limba engleza, si probabil in toate limbile pamantului. Nu e vreo noutate. Multi intelegem de ce se radicalizeaza lumea proasta, sau daca nu proasta, neinformata si dezinteresata de problemele societatii. Oamenii astia cand ajung sa se implice in problemele colectivitatii, o fac adesea doar din razbunare. Razbunare pe politica si nivelul de trai, razbunare pe hotie si pe toata lumea din jur. Oamenii astia, sa recunoastem, sa le spunem pe nume, oamenii astia prosti, se razbuna pe toata lumea promavand cu patima extremismul.

      Ca si tine, nu avem solutii. Nivelul de trai creste in toate tarile, in toata lumea, insa nu atat de repede pe cat creste frustrarea celor dezavantajati. Greu de gasit solutii, altele decat statul de drept si reducerea mafiei. Dar si astea functioneaza tot temporizat. Si crizele abia au inceput. Vor fi tot mai multe, mai diversificate si mai grele. Resursele planetare au devenit insuficiente pentru 7 miliarde de oameni care se inmultesc continuu.
  • 0 (0 voturi)    
    @Redactie (Joi, 24 martie 2016, 18:32)

    bogdan192 [utilizator]

    Anon trolled the living s#it of their experiment. Au fost cel putin 4 raiduri pe 4chan...
  • +4 (6 voturi)    
    Acum stim cine sunt "postacii" rusi! (Joi, 24 martie 2016, 18:37)

    Romania, tara pomanagiilor [utilizator]

    Postacii sunt niste inteligente artificiale!

    Asta explica multe, de exemplu cum ar putea cineva sa creada ca Putin e un bun conducator - trebuie sa fii inuman sa crezi asa ceva!
  • +1 (1 vot)    
    :) (Joi, 24 martie 2016, 20:18)

    seagrass [utilizator]

    daca are cineva chef de discutii cu chat-bot-uri poate incepe de aici ( Alan e bunicel, si da, poarta numele dupa Alan Turing ):

    http://www.a-i.com/show_tree.asp?id=115
  • +2 (4 voturi)    
    Ce AI...? (Vineri, 25 martie 2016, 13:19)

    Raiden [utilizator]

    NU exista asa ceva, cel putin nu acum si nici in viitorul apropiat. Atat timp cat aceste AI uri nu pot simti cu adevarat lumea in care se afla (echivalentul simturilor umane) si nu au sentimente/trairi bazate pe aceste simturi, AI este doar o combinatie fancy de cuvinte pentru amatorii de SFuri. Probabil robotul MS facea o medie a expresiilor/cuvintelor folosite de ceilalti coforumisti si cum aia injurau ca birjarii a rezultat ca si el injura. Doooah...AI inseamna ca el sa posteze in contra valului si sa poata argumenta/intelege de ce nu face precum ceilalti forumisti. Argument pe care il gaseste singur, nu scris intr-o linie de cod...


Abonare la comentarii cu RSS





ESRI

Top 5 articole cele mai ...



Hotnews
Agenţii de ştiri

Siteul Hotnews.ro foloseste cookie-uri. Cookie-urile ne ajută să imbunatatim serviciile noastre. Mai multe detalii, aici.
hosted by
powered by
developed by
mobile version
Duminică