Európska únia je známa tým, že dokáže regulovať aj tie najmenšie detaily každodenného života. Reguluje tvar banánov, zloženie potravín, jednotné nabíjačky, cookies na webových stránkach či označovanie ekologických výrobkov. Väčšinou nejde o byrokratický rozmar, ale o snahu chrániť spotrebiteľa pred nejasnosťami, zavádzaním a asymetriou informácií. O to zaujímavejšie je, že v oblasti umelej inteligencie zatiaľ zostáva jeden zásadný prvok takmer nedotknutý: samotný názov.
„Umelá inteligencia“ je pojem, ktorý v sebe nesie viac emócie než technickej presnosti. Na rozdiel od nástrojov ako Excel, Photoshop či Adobe Acrobat si k nemu ľudia nezačali vytvárať vzťah preto, že by boli emocionálne silné, ale preto, že ich názvy nepredstierali myslenie, porozumenie ani autonómiu. Nikto si nebudoval citový vzťah k tabuľkovému procesoru. Nikto sa nepýta, čo si „myslí“ Excel.
Pri AI je situácia iná. Už samotný názov vytvára dojem partnera, poradcu, niekedy až autority. Ľudia hovoria, že „AI im rozumie“, že „im poradila lepšie než človek“, že „im pomohla rozhodnúť sa“. Nejde len o funkčnosť systému, ale o emocionálny rámec, ktorý názov vytvára. A tento rámec je základom rastúcej kognitívnej aj citovej závislosti.
Je pritom oprávnené položiť si otázku: keby sa tieto systémy nikdy nevolali „inteligencia“, vznikol by rovnaký vzťah?
Ak by sa od začiatku prezentovali ako predikčné alebo inferenčné systémy (inferencia – vyvodzovanie záverov), je pravdepodobné, že by ich používatelia vnímali ako nástroje – výkonné, užitočné, ale stále len nástroje. Slovo „inteligencia“ však presúva technológiu z kategórie softvéru do kategórie kvázi-subjektu.
EÚ už dnes reguluje jazyk všade tam, kde jazyk mení správanie. „Bio“, „eko“, „light“ či „zdravý“ nie sú len slová – sú to regulované pojmy, pretože vytvárajú očakávania a dôveru. Ak teda existuje obava, že názov „AI“ priamo prispieva k neprimeranej dôvere, a tým aj k rastúcej závislosti občanov, nie je absurdné sa pýtať, či by nemal podliehať podobnému režimu.
Regulácia by pritom nemusela znamenať zákaz slova „AI“. Stačilo by zaviesť to, čo EÚ robí inde rutinne: presný kontext a povinné vysvetlenie. Napríklad povinné funkčné označenie systému:
- Predikčný textový systém (PTS) pre verejnosť,
- Model pravdepodobnostnej inferencie (MPI) pre odborné prostredie,
- Automatizovaný inferenčný systém (AINS) pre právo a štát.
Takéto pomenovanie nevyvoláva ilúziu myslenia, nebuduje emocionálny vzťah a nepozýva používateľa k delegovaniu úsudku. Znie to možno menej atraktívne než „AI“, ale práve to je pointa. Cieľom regulácie nie je, aby sa technológia páčila, ale aby sa správne chápala. Možno sa to zdá ironické: EÚ reguluje dĺžku uhoriek, ale zatiaľ nereguluje slovo, ktoré mení spôsob, akým ľudia premýšľajú o technológii, autorite a pravde. No ak berieme vážne ochranu občana v digitálnom priestore, potom regulácia názvu „AI“ – alebo aspoň jeho významu – nie je prehnaná. Je to logický krok skôr, než sa zo softvéru stane emocionálny aktér, ku ktorému si spoločnosť vytvorí vzťah, aký si k Excelu či Adobe nikdy vytvoriť nemusela.
Občan rozhoduj sa racionálne a nie emočne !
Informácie menia svet, preposielaj, zdieľaj a požaduj !
Celá debata | RSS tejto debaty