Az ember nem tökéletes… elfogadható lesz-e valaha, hogy az AI generálta bármi, agent, akármi se lesz soha az?
“Vajon tudunk-e AI-terápiai chatbot-okat készíteni, hogy azok ne tudjanak ártani” - azaz, hogy a hippokratészi orvosi etika egyik alapelve, a “Primum non nocere” (előszöris nem ártani) érvényesüljön.
Szerintem szimpla a válasz: NEM.
De. A helyzet az önvezető autó problémájához nagyon hasonló. Nem tudom, hány embernek tűnt fel, hogy az isten-guru bozo ev-tcar Musk mit szokott mondani, mennyivel kevesebb ember fog meghalni az önvezető autók által, mint a hagyományos ICE autók által okozott bakesetekben. Pl. hogy akár 10x kevesebb…
…azt sose mondta, hogy zéró, nada… nézzük… A WHO statisztikája szerint jelenleg évi átlag 1-1,2 millió embet leli halálát évente autóbalesetben. Osztva 10-zel, 100-120 ezer. Nem zéró… Persze ez a “10x kevesebb is…”. Hazugság, mint annyi más utterance tőle, honnan is tudhatná?!
Abban lehet, hogy kvázi “igaza” lesz - és az se biztos, hogy azt a Tesla Robotaxi forradalom hozza, hanem inkább a Waymo féle jóval felelősebben biztonságosabbra (következésképpen jóval drágábbra) tervezett rendszerek által biztosítva -, és az önvezető ev-autók megbízhatóan csökkenteni fogják a baleseti halál kockázatát. Valamennyivel, kiadódik majd, fejem teszem rá, hogy a faktor kisebb lesz 10x-nél. De nem zéró!
És ezzel majd elvileg is, etikailag is meg kell egyszer birkóznia az emberiségnek. Mint ahogy az orvostudományban, a pszichológiában, terápiában is dönteni kell, egyetlen szál műhiba is elfogadható-e egy “gép” által… mert nem kevesebb a tét, mint eldönteni, hogy elvileg egy “gép”, AI által elkövetett hiba valószínűsége ugyanúgy nem zéró, mint emberi döntések esetén.
Persze, a statisztikai valószínűség is számíthat, nyilván, a “gép” többet nem tévedhet, mint az ember, mert akkor mi értelme van az egésznek?! Sőt meggyőzően sokkal kevesebb rossz döntés lehetne elfogadható(?).
Azonban az ember, az emberek nem statisztikusan gondolkodnak. Az az érzésem, hogy ebben a pillanatban egy rossz “gépi” döntés is sok, amely emberéletbe kerül.
Pedig ezt majd el kell egyszer dönteni. Vagy a “gépeket”, AI-t olyan döntésektől adminisztratíve távol kell tartani, ahol ilyen kockázatú döntéseket hozhat.
Ennek értelmében le kell(ene…) állítani a teljesen önvezető autók gyártásához vezető projekteket, AI elvileg se csinálhasson terápiát, és ne hozhasson végső medical döntéseket. Basta.
Mi volt a post kiindulópontja? Lehet-e veszélyes önállóan, emberi felügyelet nélkül AI-t használni terápiában? NEM. Ez volt a válaszom. Közben talán sikerült megvilágítanom, hogy értem. NEM, ha az a kritérium, hogy egyetlen egyszer sem tévedhet, és ezzel veszélybe sodorhat valamit.
Igaz, ha az a kérdés, hogy az ember által diszpenzált terápia tökéletesen kockázatmentes-e, a válasz nyilván ugyanez: NEM… normál, hogy egy géppel, az AI-jal szemben sokkal nagyobb biztonságot követelünk meg, mint az emberekkel szemben. De vajon akár elvileg is elvárhatjuk-e magától értetődően a tökéletességet, az abszolút hiba-mentességet?! Szerintem ez utópia.
A trolley-villamos paradoxon visszaköszön…:-))) csak most már nagyonis praktikus etikai döntés-szükség-szerűség formájában.
Egy vicces megoldása a trolley problémának:
