Vlákno názorů ke článku Ne, umělé inteligence se fakt nebojím … od Smazaný profil - " vždy jsou na konci instrukce uložené v...

Ano, to že lidský mozek je taky stroj je věc o které hodně přemýšlím. O mozku už nevím lautr nic, ale z toho co čtu tak nějak chápu, že ani lidé co se tím živí o mozku stále mnohé neví. To samé platí pro lidské chování.

Jak máme simulovat něco co sami nechápeme i když jsme to my samotní a každý den to používáme? Navíc na základech jedniček a nul.

To co píšete k AI ... Já Vám neodpovím, ale pošlu Vám odkaz na to co říká jeden z doslova nejpovolanějších lidí na planetě. A na Vaše otázky tam odpovídá:

https://www.youtube.com/watch?v=vYQ33kP7BdY

Mimochodem Tomáš Mikulov stojí právě za překladačem využívajícím strojové učení. On to dokáže vysvětlit nejlépe.
A i když se tím živí, tak je hodně řekněme skeptický. Nebo je to možná právě tím, že se tím živí a hodně do oboru promlouvá.

> Jak máme simulovat něco co sami nechápeme

AGI nemusí vzniknout simulací mozku. Letadla taky nevznikla simulací ptáka, v době, kdy lidi taky nechápali (na jisté úrovni nechápou do dnes) jak ptáci fungují.

// ReCAPTCHA pro přihlášené podporovatele? Srsly, Roote?

Dovolím si nesouhlasit. Letadlo využívá úplně stejný princip jako pták a to vztlak. Tvar křídel letadel je inspirovaný u ptáků. A ta inspirace neskončila, ale pokračuje. Viz tzv winglety na koncích křídel používané poslední dekády. To je okoukaný od nějakého dravého ptáka.
Létáme vlastně díky tomu že základní princip jsme od ptáků okopírovali a objevili jev který jsme nazvali vztlak.
Ale domnívám se, že podstatu pravé inteligence ještě nechápeme. Sami sebe moc nechápeme....
Neříkám že to jednou nepochopíme. Proč by ne. Jen říkám, že k tomu máme hodně daleko a připadá mi to jako hodně složitý problém.

Dovolím si také nesouhlasit. Lodě plují na stejném principu jako ryby, ale o kopírování se mluvit nedá. Dokonce i ponorky jsou od ryb tak odlišné, že bych připouštěl jenom mírnou inspiraci. A to ještě spíš jenom tam, kde to příroda dělá o moc lépe než člověk, stejně jako u těch letadel.

A ty tranzistory, neurochirurg vidí spoustu neuronů, synapsí mezi nimi, může znát chemické i elektrické procesy v mozku, ale dokáže říct z čeho vznikla i ta nejjednoduší myšlenka? Není to třeba tím že pro listí nevidí strom?

" vždy jsou na konci instrukce uložené v paměti zpracovávané procesorem zpracovávajícím data přenášená po sběrnicích a vlastně jsou to “pouze” elektrické signály."

to je pravda, a odpovídá to pohledu na vědu tak, jak se to běžně učí (naučíme se nejdříve celá čísla, potom sčítat, potom zlomky, následuje řekněme koncept nekonečna atd.). Ale je tady fenomén samoorganizace (self-organization), který prozatím není dobře prozkoumaný. A díky tomuto fenoménu i systémy založené na značně jednoduchých pravidlech mohou vykazovat známky "vyššího stupně organizace" (pro to asi neexistuje přesný termín). No bude to ještě zajímavé, ale jak píšeš ... zatím nás v IT asi AI nenahradí, spíš to bude nahrazovat takovou tu denodenní juniorní práci.

(btw projít reCAPTCHOU bude asi už dneska snadnější pro AI než pro mne :-)

Zatím na sobě pozoruju, že ChatGPT nahrazuje moje chození na foŕa. Tomu, zdá se, hrozí zánik,

S tou captchou bych to neviděl tak dramaticky :-D

https://www.osel.cz/12777-inteligence-gpt-4-si-najala-cloveka-kvuli-prekonani-testu-captcha-a-lhala-mu.html

Ale muset vyplňovat captchu i když chci jenom zobrazit náhled, to už je dost vopruz.

Já byl hodně ovlivněn autorem této knihy. Byl to můj učitel psychologie. Jeho teorie neměla nic společného s umělou inteligencí. Jeho práce v té době byla o tom, zda a jak je naše psychika popsatelná matematikou. Nakolik jsou naše rozhodnutí a názory predikovatelné na základě prožitých věcí. Zda jsme popsatelní jako automat, který zpracovává informace deterministicky.

https://knihobot.cz/g/385250

Další obor, který se něčemu podobnému věnuje, je behaviorální ekonomie. Nejsme zdaleka tak racionální, jak si myslíme. Vlastně jsme velmi iracionální. Co hůře, předvídatelně iracionální.

Další obor je rétorika a manipulativní metody. Tam se také zkoumají reakce na různé akce a hledají se vzorce. Jsme v tomhle hodně daleko a zejména v době fake news se do toho výzkumu investuje hodně prostředků. Cíl je sice jiný, ale mechanismus stejný: popsat člověka jako automat, u kterého dokážeme podle vstupu určit výstup.

Obávám se, že toho už o nás víme dost na to, abychom to simulovali nějakou AI. Spíš ještě nevíme, k čemu ji zneužít. Pokrok s AI jako je ChatGPT by ale brzo mohl někoho inspirovat k vytvoření "armády indů", která ve skutečnosti bude jen armáda AI. Od anonymních* Indů se nízká kvalita práce tak nějak čeká, stejně tak jako jazyková bariéra a omezená schopnost porozumět zadání. No, počkám až mi skončí stavební spoření a založím si na to startup!

*) To slovo je důležité. Máme ve firmě hodně Indů a jsou to odborníci, kteří se nám ve všem vyrovnají. Ale jak sami připouštějí: na trhu práce jich je tam moc a většina z nich ve skutečnosti nic moc neumí. Zadat práci někomu, koho nemáte prověřeného, jsou obvykle vyhozené peníze. Přesto to firmy dělají :-)

Ja jsem cetl ze nas mozek si vytvari paralelne mnostvi realit ktere muzou nastat a v okamihu zjisteni pravdy ostatni zahodi a pokracuje dale. Vysvetluje to mnoho veci od deja-vu, cez intuici, az po schizofrenii. A taky proc AI zatim nemysli jako my.

Tomu by možná odpovídalo efektu "vteřinové ručičky", kdy se člověk dívá na ciferník, zavře oči o po otevření na chvíli "uvidí" ručičku tam, kde ji předpokládá mozek (tedy na původní pozici) a teprve za chvíli se to upraví do reálné polohy.

To mi připomíná knihu, která se jmenovala nějak jako “How people think people think”. Tam bylo něco podobného popsáno formálně, hlavně to “zjištění pravdy”.

Eee. Já jsem tuším toto slyšel vykládáno jako kosmologickou teorii, v souvislosti s časoprostorem a paralelními vesmíry. Že realita jakožto bod v čase znamená vlastně kolaps vlnové funkce nebo co.

Mozek si interně trvale halucinuje/modeluje realitu, kterou pozoruje skrz komprimované kanály s omezenou šířkou pásma, a dynamické děje predikuje na krátkou dobu předem. Schizofrenie může být stav, kdy dochází k určité ztrátě kontaktu mezi zmíněnou interní představou a vnější realitou.

Živím se zhusta jako diagnostik různých zařízení a systémů - v této roli jsem zvyklý pracovat do poslední chvíle s více hypotézami. Až mi experimenty a další vývoj některé hypotézy vyřadí a zbyde jedna nejspíš pravdivá. Spousta lidí takto nefunguje - usnesou se předem na konkrétním řešení a jsou pak naštvaní, když jim jejich již přijatou představu následné události/expe­rimenty vyvrací...