Vai varat uzticēties AI? Vai jums vajadzētu pieņemt atzinumus kā objektīvi pamatotus bez šaubām? Problēma ir tā, ka pat pašas AI apšaubīšana nesniegtu skaidras atbildes.
AI sistēmas parasti darbojas kā melnā kaste: dati tiek ievadīti un dati tiek izvadīti, bet procesi, kas šos datus pārveido, ir noslēpums. Tas rada divkāršu problēmu. Viens ir tas, ka nav skaidrs, kuru algoritmu veiktspēja ir visticamākā. Otra ir tā, ka šķietami objektīvos rezultātus var sagrozīt to cilvēku vērtības un aizspriedumi, kuri šīs programmas programmē. Tāpēc ir nepieciešama pārredzamība virtuālajiem domu procesiem, kurus šādas sistēmas izmanto, vai “izskaidrojams AI”.
Ētiskā prasība ir kļuvusi par likumīgu ikvienam, uz kuru attiecas GDPR, un tas ietekmē ne tikai uzņēmumus, kas atrodas ES, bet arī tos, kuriem ir darījumi ar tur esošiem cilvēkiem vai organizācijām. Tajā ir iekļauti vairāki datu aizsardzības noteikumi, kas attiecas uz ES pilsoņiem “tiesības nebūt pakļautiem tikai automātiskai lēmumu pieņemšanai, izņemot atsevišķas situācijas” un “tiesības saņemt nozīmīgu informāciju par lēmumā izmantoto loģiku. . ”
