Negativní vliv umělé intligence na člověka

Aneb až se naplno rozjedou a rozvinou ChatGPT a podobné technologie, tak to bude stát za to.

K zamyšlení nad vlivem umělých rádců na psychiku a chování člověka a naší civilizace jako celku mě přiměla taková příhoda s jedním mladším kolegou v práci. A vlastně taky zkušenost se mnou, protože jsem dělával to, co on.

Znáte to, sedíte takhle v kanceláři, v práci, a tu a tam se spontánně začne řešit nějaké téma. Např. jízdní kola, posilování a fitness, motorky a auta.

Protože o výše uvedené (snad s vyjímkou aut) se zajímám a mám s tím řadu životních zkušeností, na některé veci mám poněkud jiný a někdy svérázný pohled, než co radí Google a Internet. S kolegou, který očividně rád a intenzivně Google používá (já taky), říkejme mu Karel, jsem si vyměňoval argumenty. Stál si docela dost za svým a pořád se přel.

Po nějaké době diskuzí s Karlem jsem si všiml, že jeho názory a argumentace jsou z velké většiny založeny ne na jeho osobní zkušenosti a nabytých znalostech, ale na tom, co vrací Google na prvních 2 stranách výsedků (dneska už asi na více stranách). Karel byl o svých názorech dost přesvědčen.

Karel mi utkvěl v paměti, protože v názorových rozepřích jsem já předkládal svoje těžce nabyté životní zkušenosti, a on mi na ně silně oponoval pro mě (na dané téma) mainstreamem, co člověk najde, když začne něco Googlit (a já sám to moc dobře znám). Při zpětném rozpomenutí na „Google experta“ Karla si říkám, zda si to vlastně vůbec uvědomoval, když argumentoval se starším.

Taky jste si doufám všimli, jaký je na Internetu binec. Kvalitní rady, vědomosti a zkušenosti, jsou často mixované s marketingovou masírkou, recyklovanými články psanými copywritery, a podobnými věci. A mnozí mladí lidé už spíše než za odborníky (nebo třeba rodiči) chodí pro rady na Google.com

No a teď tady máme ChatGPT, který všechny ty informace nasává, a umí vracet docela zajímavé odpovědi na dotazy. A hle, už to používají i studenti ve školách, a budou používat i nadále. A toto odvětví se bude rozšiřovat.

Karel, kterému v té době mohlo být tak 27 let a byl pohlcen průměrovanými znalostmi z Google, si možná jednou, jako já, uvědomí, že věci jsou ve skutečnosti někdy trochu jinak – až načerpá své vlastní zkušnosti.

Budou toho však schopni lidé v budoucnu, kteří si budou chodit pro rady k docela přesvědčívé umělé inteligenci, a to už od svého dětství?

K této disuzi na téma (něvědomé) závislost, mě napadají další otázky: Jak si svět poradí s tím, že velké firmy budou výstupy z AI manipulat tím či oním svěrem, za účelem zisku? Jak si svět poradí s tím, že to můžou dělat i vlády, za účelem udržení moci? Jak si svět poradí s tím, že lidí se zase o krok odnačí myslet sami za sebe? Jak si poradí s tím, že si toho neboud vlastně lidi ani vědomi, tak jako teď Karel?