Aristoteles: odpovědnost vyžaduje vědomý čin
Jedním z prvních, kdo systematicky rozlišoval mezi dobrovolným a nedobrovolným jednáním, byl Aristoteles. Ve své Etice Nikomachově tvrdil, že morální odpovědnost lze připsat pouze tehdy, když je čin vykonán vědomě a dobrovolně.
Pokud někdo jedná z donucení nebo v nevědomosti, odpovědnost je omezená.
Tento rámec je pro dnešní debatu zásadní. Umělá inteligence nemá úmysl, nemá vědomí, nejedná „dobrovolně“. Z aristotelské perspektivy by tedy nemohla být morálním subjektem.
Kant: autonomie jako podmínka morálky
Immanuel Kant šel ještě dál. Morální bytostí je podle něj ten, kdo je schopen řídit se rozumem a jednat podle univerzálního zákona, který si sám ukládá.
Současné modely AI žádnou takovou autonomii nemají. Řídí se architekturou, daty a pravidly, která vytvořili lidé. Z této perspektivy odpovědnost opět zůstává na lidské straně.
Ale moderní svět odpovědnost rozmělňuje
Hannah Arendt upozorňovala, že moderní systémy často rozptylují odpovědnost mezi mnoho aktérů. V byrokratických strukturách se může stát, že nikdo necítí plnou odpovědnost – a přesto dochází k vážným důsledkům.
Digitální technologie tento efekt zesilují.
Autonehoda jako modelový příklad
Představme si autonomní vozidlo, které způsobí nehodu.
Kdo je odpovědný? Inženýr, který navrhl algoritmus? Firma, která auto vyrobila? Provozovatel systému? Řidič, který měl dohlížet? Správce silnice? Náhoda?
Odpověď není jednoduchá. Moderní technologie vytvářejí síť příčin, nikoli jeden jasný bod selhání. Podobně je tomu u AI.
Současnost: odpovědnost zůstává lidská
Dnešní systémy nemají vědomí ani vlastní cíle. Neprožívají následky. Nemohou nést vinu v tradičním smyslu. Z tohoto hlediska se zdá rozumné tvrdit, že morální odpovědnost dnes stále náleží lidem – těm, kdo systémy navrhují, nasazují a regulují.
Otázkou ale je... Co zítra?
Budoucnost jako otevřená kniha
Dnes se můžeme jen ptát a dohadovat, zda tento stav bude trvalý. Co by se stalo, kdyby vznikl systém, který by měl trvalou identitu, schopnost učit se mimo rámec původního zadání, vlastní cílové preference a hlavně schopnost chápat důsledky svých činů?
Změnilo by to naše pojetí odpovědnosti? Možná ano. Možná ne. Jisté je v této chvíli jen to, že filozofická debata tím nekončí.
Abychom se jako lidstvo dokázali s existencí umělé inteligence vyspořádat, musíme si odpovědět na velké množství otázek. A mnohé z nich nejsou ani jednoché, ani pohodlné. Je morální odpovědnost vlastností vědomí? Nebo vlastností moci? A pokud technologie získávají stále větší moc – znamená to, že by se měla měnit i naše etika?
Možná totiž není nejdůležitější, zda má AI odpovědnost dnes.
Možná je důležitější, zda jsme připraveni naše fungování dostatečně rychle zmenit, pokud se změní svět kolem nás.
A právě v této otevřenosti se možná skrývá skutečná výzva.
