Tehnologiile bazate pe Inteligența Artificială (AI) interferează cu activități care erau până acum apanajul gândirii și creativității umane. Cu ajutorului AI-ului începem să ne degrevăm treptat nu doar de munca efectivă, ci și de procesul de luare a deciziilor în multe domenii cheie: sănătate și diagnostic medical, educație, optimizarea traficului urban, creație artistică, serviciile de asistență socială, combaterea infracționalității, iar lista poate continua. Beneficiile sunt limpezi. Capacitatea de calcul pe care o deține AI-ul întrece cu mult abilitățile minții umane și, pe cale de consecință, poate găsi soluții rapide pentru situații de o complexitate remarcabilă. Riscurile derivă din faptul că AI este lipsită de capacitatea de discernământ și de rafinamentul pe care oamenii le manifestă în luarea deciziilor. Deși pot calcula instantaneu implicațiile diverselor decizii posibile, mașinile nu pot judeca nicio situație holistic și nu pot sesiza subtilitățile de nuanță.
Putem aminti trei cazuri celebre în care AI a eșuat dramatic: mașina fără șofer care a ucis un pieton, supercomputerul IBM Watson care a recomandat tratamente periculoase împotriva cancerului și instrumentul de recunoaștere facială automată care a manifestat tendința de a identifica cu precădere oamenii de culoare ca fiind potențiali criminali.
Un nou raport realizat de Agenția UE pentru Drepturi Fundamentale (European Union Agency for Fundamental Rights – FRA) avertizează: pe măsură ce AI începe să joace un rol tot mai important în viața cetățenilor europeni, erorile pe care le generează se răsfrâng asupra vieții persoanelor. Directorul FRA, Michael O’Flaherty subliniază: ”AI nu este infailibilă, fiind dezvoltată de către oameni, care la rândul lor nu sunt infailibili”.
FRA solicită decidenților să se asigure că orice viitoare legi AI protejează drepturile fundamentale ale omului și că aceste legi vor permite cetățenilor să conteste hotărârile luate automat de către mașinile de calcul. Mesajul principal al raportului este că nu putem transfera orbește procesul decizional către AI fără a evalua cu atenție impactul acestora asupra drepturilor omului și, am adăuga noi, asupra umanității în ansamblul ei.