Odpověď na názor

Rozlišoval bych "umělou inteligenci" jako nástroj, který má ulevit našim mozkům a "umělou existenci" jako lidmi vytvořený stroj, který dokáže jednat ve svůj prospěch - zachování vlastní existence.

Jako pomocný nástroj může být umělou inteligencí třeba kalkulačka. Je "natrénovaná" tak, aby po zadání vstupních dat vrátila nějaký výsledek. Ušetří nám to práci a my zapomeneme počítat. Jenže pak se kalkulačka porouchá a začne dávat jiné výsledky než předtím. Po čase si všimneme, že něco není v pořádku, ale už nebudeme schopni zjistit, co to je a jak to opravit.

Další nebezpečí je zneužití takového nástroje jako zbraně, proti které nemáme obranu. Přesným zmapováním našeho chování nás takový nástroj bude schopen zmanipulovat k jakémukoliv rozhodnutí.