Facebooki tehisintellekt pandi kinni, sest see asus omaleiutatud keeles vestlema

Facebooki asutaja Mark Zuckerberg. Foto: Steven Senne/AP/Scanpix

Facebooki arendustegevuse labor FAIR (Facebook Artificial Intelligence Research lab) sulges oma vestlusrobotite ehk chatbotide eksperimendi, kuna inimestega rääkimist õppivad arvutiprogrammid läksid üle omavahelisele keelele, mis inimeste jaoks oli mõistetamatu.

TheNextWeb vahendas ühte lõiku kahe juturoboti vahel:

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Esmalt vestlesid kaks juturobotit, mis ehitati ja arendati inimestega suhtlemise treenimiseks, omavahel tavalises inglise keeles. Seejärel aga muutus omavaheline jutt selliseks nagu ülal, kirjutas TechTimes. Tehisintellektiga programmidele ei olnud pandud piirangut ainult inglise keeles suhtlemiseks, mistõttu läks kommunikatsioon ilmselt teise formaati, mis tarkvara jaoks oli efektiivsem.

Milles põjus?

Kuigi mõned väljaanded viitasid eelnimetatud vestluse puhul maailmalõpu-stsenaariumitele, kus arvutid asuvad suhtlema oma keeles, oli tegelikkus siiski proosalisem. FAIRi uurija Dhruv Batra sõnul oli eelnev näide selle kohta, kuidas juturobotid esitasid teatud loetelusid. Kui juturobot ütleb viis korda järjest “the”, siis peaks see tähendama viis koopiat samast üksusest, mis mõnes mõttes sarnaneb sellega, kuidas inimesed loomulikus keeles loetelusid esitavad, vahendas Gizmodo.

See avastus oli osa laiemast eksperimendist, millega õpetati tehisintellektiga juturoboteid tehinguid tegema ja kauplema. Enne projekti sulgemist leiti, et tehisintellekt suutis üllatavalt hästi tehingu väärtuses orienteeruda ja seda teisele poole edasi anda. Näiteks võis juturobot kaotada huvi ja ohverdada mingi pakutava väiksema väärtuse, et selle abiga saada lõpuks kätte suurem väärtus.

Suve alguses sattus Facebooki asutaja Mark Zuckerberg vaidlusse teise tehnoloogia-ettevõtjaga Elon Musk, kuna viimase väitel ei taju Zuckerberg tehisintellekti arendamise tuleviku võimalusi ja riske.