A mesterséges intelligenciának nincs tudata, és nem is lesz

Azt írja a baloldali The Atlantic portálon Ted Chiang, hogy abszurd a felvetés, hogy a mesterséges intelligenciának tudata lenne.

Az év elején az Anthropic AI-cég kiadott egy „alkotmányt” a Claude programhoz, nagy nyelvi modelljéhez és fő termééhez. Dario Amodei, az Anthropic vezérigazgatója azt mondta: „nyitottak vagyunk arra az ötletre”, hogy a mesterséges intelligencia tudatossá válhat. Amanda Askell, az Anthropic házi filozófusa egy interjúban azt nyilatkozta: „Azt szeretném, ha Claude nagyon boldog lenne.”

„Ez elég ahhoz, hogy elgondolkodj: komolyan kellene vennünk annak a lehetőségét, hogy Claude, vagy bármely nagy nyelvi modell tudattal rendelkezhet? És ha vannak érzései, képes-e erkölcsi útmutatást kapni?” – kérdezi Ted Chiang. A kérdésre válaszolt is: „Ez teljességgel lehetetlen.” („Absolutely not.”)

„Az LLM-ekkel („nagyméretű nyelvi modellekkel”) folytatott beszélgetések ügyesen álcázott példái a mondatfolytatásnak” – írja Chiang. Talán a leghasznosabb módja Claude alkotmányának megértése, ha „egy 83 oldalas, szerepjátékhoz készült karakterlapként értelmezzük. Az LLM-ek tudnak párbeszédet generálni Julius Caesarral is, mert rengeteg róla szóló könyv szerepel azokban az adatbázisokban, amelyeken az adott modellek tanultak. Claude alkotmánya hasonló szerepet tölt be abban, hogy meghatározza a segítőkész chatbot karakterét, amellyel a felhasználók találkoznak, amikor az Anthropic termékeit használják.

„Az eredmény egy olyan mondatfolytató gép, amely nagyobb valószínűséggel bocsát ki olyan mondatokat, amelyek hasonlítanak arra, amit egy átgondolt, erkölcsös ember mondhatna – folytatja Chiang. – Azonban amellett érvelek, hogy ahányszor is szerepel a „becsületesség” kifejezés a Claude alapszabályzatában, azt mondanám, hogy alapvetően becstelen, ha egy gép olyan mondatokat is kibocsát, amelyek bármilyen első személyű névmást tartalmaznak.”

„Amikor egy ember egy LLM-re bízza a döntést, valójában megpróbálja átruházni a felelősséget az adott döntésért. És ha egy cég, amely LLM-et árul, úgy mutatja be a terméket, mintha annak erkölcsi álláspontja lenne, akkor lehetőséget kínál az ügyfeleinek arra, hogy lemondjanak a felelősségükről – írja Chiang. – Az olyan feladatok kiszervezése, mint a kódírás, hosszú távon kognitív sorvadáshoz vezethet, és ez önmagában problémás, de az etikai döntések áthárítása az erkölcsi gondolkodás sorvadásához vezet, ami még rosszabb.”

„Szerencsés, hogy a nagyméretű nyelvi modellek nem tudatosak – folytatja Chiang –, különben a nagy AI cégek tettei még botrányosabbak lennének, mint amilyenek már most is.”

Edward Feser, a Los Angeles-i Pasadena College filozófia professzora Immortal Souls című kötetében kitér a mesterséges intelligencia kérdésére, és arra mutat rá, hogy az MI-nak nem is lehet tudata.