Arvuti ei tohi otsustada inimelude üle

“Mida me tahame saavutada on see, et alati kui tehakse inimeste elu üle otsustavaid otsuseid, oleks inimene alati loop’is sees, keda saaks ka vajadusel vastutusele võtta,” sõnas Markus Järve.

Põhiküsimuseks sellistes olukordades on vastutus. “Kes vastutab selle eest, kui midagi tehakse? Kui öeldakse, et vastutab mingi abstraktne kogus programmeerijaid või abstraktne riik, siis on nagu suhteliselt suur probleem.”

Otseselt seda kirjas välja ei tooda, kuid tõenäoliselt peavad eksperdid eelkõige silmas selliseid olukordasid, kus sõjategevuses hukkuvad süütud inimesed. Kui sellisel juhul on päästikule vajutanud inimene, saab teda vastutusele võtta, kui otsuse on aga teinud arvuti, siis on raske kedagi vastutama panna.

“Kui on tehtud mingisugune militaaroperatsioon, kus inimesed otsuseid vastu ei võta ja pärast seda jõutakse järeldusele, et tegelikult on tehtud kuritegu, siis tekib küsimus, kes hakkab selle kuriteo eest vastutama. Sest me teame väga hästi, et riigid seda ei tee terviklikuna tavaliselt, eriti kui see kuritegu on selline et kaks küla võeti maha,” räägib Järve.

Oht on aina reaalsem

Kirjas juhitakse muuhulgas tähelepanu, et tulevikus on tehisintellektil, kui see lahingutegevusse otsustusprotsessi lubada, suur osakaal sõjategevuses.

Eksperdid annavad mõista, et tegemist on Pandora laekaga – kui sellised relvad on juba korra välja arendatud, siis tagasiteed ei ole ja tulevikus on sõjad suuremal skaalal, aga samas ka lühemas ajavahemikus, millega inimesed pole võimelised toime tulema.

Kõige mustem stsenaarium, mida igaüks ette suudab kujutada, on Terminaatori ja SkyNeti tulevik, aga pigem proovitakse praegu vältida, et me ei teeks ka esimest sammu, mis sellisel tulevikul üldse tekkida laseks.

Järve sõnul on selliste olukordade tekkimise tõenäosus, kus tehisintellekt võtab lahingutandril fataalsete tagajärgedega otsuste tegemise enda kätte, aina suurem.

“Kui me võtame mingisuguse lennumasina juba praegu, mis kannab Hellfire-rakette, siis praegu on nii, et inimene otsustab, seal on mingi sihtmärk, mille me maha võtame. Kui seda viia ainult paar sammu kaugemale, siis me jõuame sellesse kohta, kus mingi arvutisüsteem võib võtta vastu sama otsuse ja siis on küsimus, kes vastutab.”

Eriti käib see selliste olukordade kohta, kus hiljem selgub, et rakett lasti ilmsüüta inimeste pihta, kes polnud sõjategevusega seotud.

Mida loodetakse kirjaga saavutada?

Kirja saatjad ootavad Järve sõnul ÜRO-lt, et võetaks vastu seisukoht, et selliste relvade kasutust piirata ja ideaalis neid sõjategevusse üldse ei kaasataks.

“Kuigi on tore, kui autod otsustavad meie eest, kus tee peal ära keerata, et oleks hea ja mugav sõita, aga kui sarnane otsus võetakse vastu selle kohta, keda maha lasta, siis see viib meid põhimõttelise probleemi juurde.”

Järve sõnul peab inimene olema alati kõikide sõjaliste otsuste tegemisel sees ja päästikule, isegi kui see on virtuaalne nupp kuskil ekraanil, peab vajutama alati inimene.

“Ei saa olla nii, et on mingisugune (sõjaline – toim.) süsteem, mis saadetakse kuskile põllu peale ja tema mingil ajahetkel otsustab, et vot see kes sealt tuleb on vastane, kelle me võtame maha.”