Ne, umělé inteligence se fakt nebojím …
… protože žádná (zatím) neexistuje.
Ale dobře, vezmeme to pěkně popořádku. O tak zvané umělé inteligenci se hodně mluví a téma velice silně proniklo i mezi laickou veřejnost. Ale mě osobně nejvíc fascinuje jak je internet plný vizí toho, jak třeba momentálně nejznámější jazykový model dokáže nahradit nás vývojáře. Třeba YouTube je plný „senzačních“ ukázek toho, jak ChatGPT generuje zdrojáky, či hledá chyby.
V první řadě je to bezesporu zajímavé a je za tím obrovské množství lidského poznání a mnoho let vysoce odborné práce. Tedy nechce se mi psát, že tak zvaná AI je “jen” něco, nebo “pouze” něco. To rozhodně ne. Jakékoliv snižování kvality a přínosu nových technologií není na místě. Je to úžasné a najde to mnoho uplatnění a to i při vývoji SW. Ale inteligence to není.
Já rozhodně nejsem ani trochu odborník na tuto problematiku. Před lety jsem dělal své malé pokusy, ale jinak to prostě není má odbornost. Proto si rád poslechnu názory někoho, kdo se tím doopravdy zabývá a hezky o tom mluví. A to co pan opravdový odborník říká se mi zdá celkem logické a naprosto jasné. (A to s těmi duchy 21. století je super hláška :-D.)
Ovšem mám jiné dvě odbornosti. Za prvé vím jak doopravdy fungují počítače “uvnitř krabice”.
Jako kluk kterému bylo cca 10, 11 jsem se začal učit programovat (tenkrát v Basicu na Didaktiku M a PMD-85), pak jsem se naučil Pascal, trošku C (to později více), uměl jsem vytvořit program, ale absolutně jsem netušil jak se z těch “písmenek” stane to co vidím na monitoru či dokonce tiskárně.
Tyto znalosti jsem dostal až později od lidí, kterých si do dodnes neskutečně vážím (a které jsem musel jakožto dosti podivínský student fakt štvát :-D )
Ale ta životní etapa zvaná vzdělávání nezačala tím, že někdo řekl: “To je podmínka, to a to je funkce”. Ne! Tenkrát to začalo vyprávěním co je to ampér, volt, ohm, hertz a impedance, jak fungují polovodiče, … až jsme se dostali k myšlenkám pánů jako byl George Boole a John von Neumann. K tomu jsem dostal naložíno fůru informací o polovodičích a hradlech, o sběrnicích, … až jsme se dostali k jednotlivým CPU (tenkrát aktuálním), učili jsme se alespoň základy assemblerů, učili jsme si jak se adresuje paměť, co je to chráněný režim, co se vlastně děje když OS přepíná procesy, nebo i když se prostě volá pouhá funkce (nebo procedura, metoda …).
No a já už jsem přestal prostě tak nějak psát programy a začal jsem rozumět tomu co a proč dělám. Najednou jsem si psal vlastní ovladač na myš a grafiku a ve finále i vlastní operační systém s GUI (mimochodem hrozný šmejd, ale moc jsem se na tom naučil).
A tyto znalosti jsem si uchoval do dnes. Tedy už nepíšu programy, ale přemýšlím o tom, co bude dělat třeba ten server na kterém to poběží. A také prostě nevěřím všemu co kdo řekne …
I když jsem byl opravdu mizerný student (co mě nebavilo, to jsem ignoroval a vice versa), tak toto mě fakt bavilo a jsem si do značné míry jistý v kramflecích od dnes (ve znalosti samotných principů).
Vím že ať použiji jakýkoliv jazyk či technologii, tak vždy jsou na konci instrukce uložené v paměti zpracovávané procesorem zpracovávajícím data přenášená po sběrnicích a vlastně jsou to “pouze” elektrické signály.
A později jsem si k těmto znalostem přidal nějaké ty znalosti a to z managementu. A přiznám se, že hledání efektivních řešení, tedy tvorba SW, který objektivně uspoří třeba desítky a stovky hodin lidské práce mě baví nejvíc. Pro věci jako je optimalizace a digitalizace jsem doslova nadšený a je to téma, které je všude kolem nás. Mám rád taková řešení, která jsou efektivní nejen technicky, ale i ekonomicky (často jsou to spojené nádoby, pouze to řada programátorů ignoruje).
A skrze tyto mé vědomostní základy koukám i na dnes aktuální téma AI. Je to úžasné, ale v pozadí stále vidím ty “tranzistory” a signály. Vidím tam volty, vidím ty “dráty”. Nevidím lidský mozek a už absolutně ne lidskou duši!
Ale na druhou stranu tak zvaná AI je to super věc, která je schopná udělat hromadu rutinní práce a to mnohem lépe a rychleji (spíš nesouměřitelně rychleji) než to dokáže člověk. Ostatně … Napadá mě teď že by bylo fajn Jet Studiu prostě říct přirozenou řečí: “Vytvoř mi entitu, která bude mít takové a takové vlastnosti …”.
To je zcela reálné a bude to moc fajn. Ostatně to co dnes umí moderní IDE je samo o sobě parádní. Když si vzpomenu jak jsem psal první programy na Didaktiku či PMD, to si dnes nikdo nedokáže ani představit. Nebo i první IDE byla úplně jinde než jsou vývojářské nástroje dnes. Mnou používané IDE mě v reálném čase kontroluje, perfektně našeptává a pomáhá (ano, použitá technologie – třeba framework – tomu musí jít ideálně naproti).
Když to tak vezmeme do důsledků, tak moderní IDE je vlastně také „umělá inteligence“ v lehké, ale velice užitečné verzi. Neustále to hlídá souvislosti v projektu, upozorňuje, radí a tak dále. A dělá to sakra rychle. Šetří to ohromné množství času – tedy i peněz. Je to super, jen to nemá takové PR a rozhodně o tom nebudou psát na Novinkách. My vývojáři to bereme už jako samozřejmost … Díky tzv. AI je možné tyhle “fičurky” posunout ještě mnohem dál. Další nástroje nám budou stále více pomáhat. A bude to dobře.
Ale opravdového vývojáře to v dohledné době opravdu nenahradí. Protože to prostě není inteligence.
Hned řeknu proč …
Programy jsem byl schopen psát i jako relativně malé dítě. Psát kód není zas takový problém. To se dá naučit. Na to dokonce není třeba ani žádné vzdělání. Teda ne že bych to chtěl shazovat. Stále je to odborná činnost vyžadující jistý talent a vlohy. Stejně jako se já rozhodně nenaučím hrát na housle (mám hudební hluch a třeba zpěv mám zakázán pod pohrůžkou násilí), tak ne každý se neučí psát programy – psát kód.
Ovšem opravdový vývoj SW není jen o umění napsat podmínku, či funkci. To je důležité, ale je to tak nějak uprostřed.
Opravdový vývoj SW je o dvou dalších rovinách. První rovina je o tom vědět co doopravdy dělám. Ne umět psát kód, ale vědět, že ten a ten kód pravděpodobně “sežeře” tolik paměti a prostředků. Ale i to se dá naučit. Ostatně i lajdák jako jsem byl já se to naučil.
Pak je tu druhá rovina. Rovina mezilidská, rovina psychologická, rovina někdy ekonomická a někdy třeba i procesně-výrobní a tak dále. A podle mého názoru rovina absolutně nejdůležitější.
Co to je? Schopnost porozumět tomu, co ten kdo vývoj jakéhokoliv SW zadává doopravdy potřebuje. Schopnost porozumět potřebám lidí a schopnost tyto potřeby efektivně transformovat v software, který lidem co jej používají bude opravdu pomáhat (= měřitelné kritérium – šetřit čas), to je cíl. A jak víte, tak dostat ze zákazníka, nebo uživatele, opravdu dobré zadání je často složité.
Však znáte třeba “Potřebuji tam jen přidat takový tlačítko … To bude jednoduchý, ne?“
A uživatel / zákazník / zadavatel to opravdu nikdy nemyslí nikterak zle. Vůbec ne. Ale je důležité správně komunikovat, správně domyslet veškeré konsekvence – a ano, i takové o kterých ten zadavatel buď vůbec sám neví, nebo jsou to z jeho úhlu pohledu naprosté marginálie, které jsou pod jeho rozlišovací schopností, ale pro vývoj SW jsou naopak dosti zásadní a řada z nás již zažila mnoho situací, kdy zdánlivá maličkost vše zásadně změnila.
Každý kdo má praxi v oboru teď určitě pokyvuje hlavou a vzpomíná na své vlastní zážitky. Je úplně jedno zda děláte informační systém pro nějakou firmu či organizaci, nebo web nějaké korporace, e-shop, či cokoliv dalšího. Vždy je to stejné … Intenzita a závažnost problémů se mohou měnit, ale podstata je vždy stejná a společným jmenovatelem je komunikace, komunikace a zase komunikace – mezilidská komunikace!
Úkolem nás vývojářů totiž není psát kód. To je “pouze” nástroj – kód je komunikační protokol mezi světem lidí a strojů. A my jsme vlastně tlumočníci.
Abychom jako tlumočníci obstáli, tak musíme znát dobře oba světy mezi kterými tvoříme most. Jak svět počítačů – strojů, tak svět lidí. A zde se dostáváme k jádru věci.
Umělá inteligence je svět strojů. Je to svět tvořený jedničkami a nulami, svět založený na geniálních, ale ve své podstatě geniálně jednoduchých (to je pochvala – ne dehonestace) myšlenkách starých už nějaký ten pátek. (Poznámka: Vždy se lehce cynicky ušklíbnu, když zaznamenám podstatně mladšího kolegu stále opakujícího matru “moderní technologie”)
Naše počítače jsou extrémně výkonné, extrémně rychlé a vyspělé … kalkulačky s obří pamětí. Ušlo to všechno obří kus cesty a bylo na tom odvedemo ohromné množství úctyhodné práce.
A teď to vše má dostatečný výkon na to, aby se to pomocí statistik mohlo “učit”. A najde to určitě velké uplatnění. Nebo již vlastně nachází.
Ale jednu věc to neumí a s ohledem na samotný princip si ani nedokážu představit, že by to mohlo umět: Nerozumí to lidem. Nechápe to člověka.
Lidská duše se podle mého názoru nedá namodelovat. Alespoň teď ne. Tím co teď a tady máme ne.
Lidská inteligence totiž není o obří paměti a o schopnosti rychle zpracovávat data / informace. Lidská inteligence je o duši. A to už jsme trochu u filozofie.
Inteligence není jen tak zvané IQ, ale i EQ. Lidská inteligence je o schopnosti vnímat ty druhé. Lidská inteligence je komplexní věc zahrnující i to čemu se říká mezilidská chemie. To co třeba každý z nás každý den a každou minutu cítíme, ale možná to sami nechápeme.
A po pravdě dost často nerozumíme ani jeden druhému. Tak jak nám lidem má doopravdy rozumět stroj založený na jedničkách a nulách?
Zapomenou pochopitelně nesmím na lidskou kreativitu. Jednou za čas prostě přijde někdo a začne věci dělat jinak než bylo zvykem (když ho teda třeba neupálí zaživa – i to se kdysi dělo … lidská hloupost jde ruku v ruce s krutostí – jsou to sestry) a třeba tak ovlivní svůj obor, nebo opravdový velikáni dokonce i celou společnost, či lidské dějiny.
Každá umělá inteligence je natrénovaná na nějakých datech. Jak na základě toho chcete udělat pravou kreativitu? Jak simulovat to, že Bedřich Smetana možná někde seděl, měl emocionální prožitek a na základě toho napsal další úžasné dílo?
Jasně, umělá inteligence také něco vytvoří, ale na základě toho co si natrénovala. Ne na základě emočního prožitku. Žádné to nemá. Vůbec žádné.
A vývojář emoce ke své práci potřebuje. Například potřebuje poznat když mu uživatelka jaho SW říká, že je to dobré, ale má lehce nakyslý výraz a je tedy znát, že její problém ještě vyřešen nebyl.
Prostě a jednoduše: Naše lidské duše jsou mnohem složitější než Booleova algebra.
A pravým úkolem nás vývojářů je dělat tlumočníky mezi světem lidí a světem strojů. To co se dnes rodí nám zcela určitě může skvěle pomoci psát kód rychleji. K tomu vše směřuje roky.
Ale není nic co by nám pomohlo rozumět lidem. A to je mnohem důležitější část naší práce.
Je důležité rozumět světu strojů, ale je stejně důležité (spíše důležitější) umět například pochopit business zákazníka, nebo psychologii našich uživatelů. Ostatně o tom krásně psal Petr Peleta ve skvělé knize “Co programátory ve škole neučí aneb Softwarové inženýrství v reálné praxi”. Ta kniha je již z roku 2003. A to co je napsáno zejména v první část té knihy platí v roce 2023 stejně jako to platilo v roce 1983.
Svět se mění a vyvíjí. Je rychlejší. I na nás jsou kladeny stále větší nároky a je požadovaná stále větší efektivita. Kdysi v minulosti kolegové psali SW na papír a děrovali své štítky. My dnes máme IDE, které nám v reálném čase ukazuje chyby a napovídá. Doba letí dál. A doba vyžaduje stále větší efektivitu (to nyní ekonomická situace zřejmě umocní).
Ale my nejsme nic jiného než ti byli kolegové třeba před padesáti lety. Jsme úplně to samé, stejně jako jsou ve své podstatě stále stejné naše stroje. Nejnovější “chytrý telefon” (spíš teda kapesní počítač s možnosti radiokomunikace) má v základu úplně stejné elementární principy jako sálový počítač.
Máme pouze větší možnosti dané daleko větším výkonem ve všech směrech a díky tomu vznikají nové nástroje. A AI je dalším nástrojem, který nám efektivně pomůže.
Ale jsme stále to samé. Stále jsme tlumočníci a prostředníci mezi světem lidí a světem strojů. Máme lepší stroje a lepší nástroje jak s nimi komunikovat. Ale nemáme absolutně nic co by nám pomohlo rozumět lidem – našim zákazníkům a uživatelům. Žádná radikální revoluce se v rámci našeho oboru nekoná. Ale skvělá evoluce pokračuje dál. Počítače nás krásně doplňují. Řeší naše slabiny, pomáhají nám s tím co nám moc nejde. Je to nejen evoluce, ale i symbióza.
Rozhodně se nebojím toho, že by Prahu za rok obsadil bojový prapor složený z terminátorů a jiných robotů :-) Teda pokud nebudou předem naprogramovaní či řízení na dálku. Samo od sebe je (ty roboty) to ale nenapadne. Stejně jako žádný server neprožije emoční zážitek na základě kterého by složil zcela novou a originální Mou vlast (teda v případě počítače asi něco jako Mé registry, Má sběrnice, ….).
Ale položme si otázku: Chceme opravdovou umělou inteligenci? Chceme opravdu vytvořit cítící duši? Ne pouze ultra-kalkulačku. Dejme stranou otázku zda k tomu vůbec máme prostředky a zda je to aktuálně v našich možnostech.
Nevím zda jsem málo odvážný, ale s tím bych si fakt nehrál. Vytvořit něco co cítí, chápe a co má opravdu nápady by opravdu mohlo vést k tomu co je ztvárněno v mnoha sci-fi knihách a filmech. Ale teď, v roce 2023, se toho opravdu nebojím, naopak se těším na nové nástroje, které dále mohou usnadnit dosti rutinní aspekty mé práce. Ale mluvit, stejně jako poslouchat a vnímat a doopravdy myslet stále zůstává na mé maličkosti stejně jako na vás, zkrátka na nás.
PS: Už ten humbuk kolem AI je pro někoho bezva business – někomu letí nahoru akcie, jiným to dává možnost se zviditelnit. Prostě jako vždy … :-)
-
Taky se připojuji k souhlasným názorům. Jen bych dodal, že v souvislosti s AI nebo "AI" vidím dvě možná rizika:
1. "AI" (tedy to, čemu se marketingově říká inteligence, ale inteligence to není) se bude bezhlavě nasazovat a výsledky se budou rovnou aplikovat, aniž by je předtím někdo kontroloval. To může snadno vést k ještě většímu hloupnutí lidstva nebo i ke hmotným škodám.
2. AI (tedy skutečná umělá inteligence) bude někdy opravdu vytvořena. V takovém případě se může jednat o průšvih řádově větší a popravdě mi ani není moc jasné, proč bychom vůbec měli chtít něčeho takového dosáhnout. Hlavně v poslední době mi připadá, že potřebujeme všechno optimalizovat, automatizovat, takřka bezvýhradně věříme novým technologiím, ale už tam pomalu přestává být místo pro samotného člověka. Jednak si myslím, že to je dost krátkozraké a jednak že člověk (respektive lidstvo) není mentálně ani morálně na takový vývoj (co do rozsahu, rychlosti a důsledků) ani trochu připraven. -
Smazaný profil
" vždy jsou na konci instrukce uložené v paměti zpracovávané procesorem zpracovávajícím data přenášená po sběrnicích a vlastně jsou to “pouze” elektrické signály."
No ono je dobrá si uvědomit, že lidský mozek je taky jen "biologický stroj", který zpracovává pouze elektrické signály. Ano krom vědomí má spoustu dalších rovin (nevědomí, hormonální roviny atp.) ale v jádru je to zase stroj, který se evolucí vyvinul z "ničeho?" s jediným smyslem... rozmnožit se.
Vaše teze "je to jen program" dobře vysvětluje to, že se AI dokáže naučit překládat z AJ do NJ... následně z AJ do SP... jak ale vysvětlíte, že ve finále umí překládat z SP do NJ, aniž by ji to někdo učil?
Jak vysvětlíte, že si si rozsáhlé AI vymýšlí věci které nejsou, fabulují, extrapolují, deklarují své "city"?
Ano, jsou to všechno naučené vzorce z literatury vytvořené člověkem, ale tak jednoduché, že "je to jen program" to také není.
-
Ano, to že lidský mozek je taky stroj je věc o které hodně přemýšlím. O mozku už nevím lautr nic, ale z toho co čtu tak nějak chápu, že ani lidé co se tím živí o mozku stále mnohé neví. To samé platí pro lidské chování.
Jak máme simulovat něco co sami nechápeme i když jsme to my samotní a každý den to používáme? Navíc na základech jedniček a nul.
To co píšete k AI ... Já Vám neodpovím, ale pošlu Vám odkaz na to co říká jeden z doslova nejpovolanějších lidí na planetě. A na Vaše otázky tam odpovídá:
https://www.youtube.com/watch?v=vYQ33kP7BdY
Mimochodem Tomáš Mikulov stojí právě za překladačem využívajícím strojové učení. On to dokáže vysvětlit nejlépe.
A i když se tím živí, tak je hodně řekněme skeptický. Nebo je to možná právě tím, že se tím živí a hodně do oboru promlouvá. -
Dovolím si nesouhlasit. Letadlo využívá úplně stejný princip jako pták a to vztlak. Tvar křídel letadel je inspirovaný u ptáků. A ta inspirace neskončila, ale pokračuje. Viz tzv winglety na koncích křídel používané poslední dekády. To je okoukaný od nějakého dravého ptáka.
Létáme vlastně díky tomu že základní princip jsme od ptáků okopírovali a objevili jev který jsme nazvali vztlak.
Ale domnívám se, že podstatu pravé inteligence ještě nechápeme. Sami sebe moc nechápeme....
Neříkám že to jednou nepochopíme. Proč by ne. Jen říkám, že k tomu máme hodně daleko a připadá mi to jako hodně složitý problém. -
Dovolím si také nesouhlasit. Lodě plují na stejném principu jako ryby, ale o kopírování se mluvit nedá. Dokonce i ponorky jsou od ryb tak odlišné, že bych připouštěl jenom mírnou inspiraci. A to ještě spíš jenom tam, kde to příroda dělá o moc lépe než člověk, stejně jako u těch letadel.
A ty tranzistory, neurochirurg vidí spoustu neuronů, synapsí mezi nimi, může znát chemické i elektrické procesy v mozku, ale dokáže říct z čeho vznikla i ta nejjednoduší myšlenka? Není to třeba tím že pro listí nevidí strom?
-
Vidíte .... Zrovna o rybách jsem viděl dokument, kde vědci vysvětlovali že to jak pluje ryba nedokážeme napodobit ani vzdáleně, protože ryba používá spoustu mikropohybů těla a ty nedokážeme ani pořádně přesně zmapovat, natož napodobit .... Jen se mi teď nedaří najít kde jsem to viděl.
Ale ano, tranzistory mohou být dejme tomu neurony. Jenže náš neuron v mozku má řekl bych více stavů než dva ...
To co máme je prostě oproti mozku absolutně primitivní. Stejně jako jako plavba žraloka je daleko sofistikovanější než plavba tankeru s ropou (i když toho víc uveze)
Ostatně doporučuji kouknout na názory opravdového odborníka, které tu sdílím. -
K té analogii s rybou... a potápěč s ploutvema dělá asi co? :-) Že je nepraktické takto konstruovat stroje (s flexibilním trupem) je jiná věc. Mimochodem taky to není úplně mimo.
-
Pavel TišnovskýZlatý podporovatel" vždy jsou na konci instrukce uložené v paměti zpracovávané procesorem zpracovávajícím data přenášená po sběrnicích a vlastně jsou to “pouze” elektrické signály."
to je pravda, a odpovídá to pohledu na vědu tak, jak se to běžně učí (naučíme se nejdříve celá čísla, potom sčítat, potom zlomky, následuje řekněme koncept nekonečna atd.). Ale je tady fenomén samoorganizace (self-organization), který prozatím není dobře prozkoumaný. A díky tomuto fenoménu i systémy založené na značně jednoduchých pravidlech mohou vykazovat známky "vyššího stupně organizace" (pro to asi neexistuje přesný termín). No bude to ještě zajímavé, ale jak píšeš ... zatím nás v IT asi AI nenahradí, spíš to bude nahrazovat takovou tu denodenní juniorní práci.
(btw projít reCAPTCHOU bude asi už dneska snadnější pro AI než pro mne :-)
-
Já byl hodně ovlivněn autorem této knihy. Byl to můj učitel psychologie. Jeho teorie neměla nic společného s umělou inteligencí. Jeho práce v té době byla o tom, zda a jak je naše psychika popsatelná matematikou. Nakolik jsou naše rozhodnutí a názory predikovatelné na základě prožitých věcí. Zda jsme popsatelní jako automat, který zpracovává informace deterministicky.
Další obor, který se něčemu podobnému věnuje, je behaviorální ekonomie. Nejsme zdaleka tak racionální, jak si myslíme. Vlastně jsme velmi iracionální. Co hůře, předvídatelně iracionální.
Další obor je rétorika a manipulativní metody. Tam se také zkoumají reakce na různé akce a hledají se vzorce. Jsme v tomhle hodně daleko a zejména v době fake news se do toho výzkumu investuje hodně prostředků. Cíl je sice jiný, ale mechanismus stejný: popsat člověka jako automat, u kterého dokážeme podle vstupu určit výstup.
Obávám se, že toho už o nás víme dost na to, abychom to simulovali nějakou AI. Spíš ještě nevíme, k čemu ji zneužít. Pokrok s AI jako je ChatGPT by ale brzo mohl někoho inspirovat k vytvoření "armády indů", která ve skutečnosti bude jen armáda AI. Od anonymních* Indů se nízká kvalita práce tak nějak čeká, stejně tak jako jazyková bariéra a omezená schopnost porozumět zadání. No, počkám až mi skončí stavební spoření a založím si na to startup!
*) To slovo je důležité. Máme ve firmě hodně Indů a jsou to odborníci, kteří se nám ve všem vyrovnají. Ale jak sami připouštějí: na trhu práce jich je tam moc a většina z nich ve skutečnosti nic moc neumí. Zadat práci někomu, koho nemáte prověřeného, jsou obvykle vyhozené peníze. Přesto to firmy dělají :-)
-
Pavel TišnovskýZlatý podporovatel
Tomu by možná odpovídalo efektu "vteřinové ručičky", kdy se člověk dívá na ciferník, zavře oči o po otevření na chvíli "uvidí" ručičku tam, kde ji předpokládá mozek (tedy na původní pozici) a teprve za chvíli se to upraví do reálné polohy.
-
Eee. Já jsem tuším toto slyšel vykládáno jako kosmologickou teorii, v souvislosti s časoprostorem a paralelními vesmíry. Že realita jakožto bod v čase znamená vlastně kolaps vlnové funkce nebo co.
Mozek si interně trvale halucinuje/modeluje realitu, kterou pozoruje skrz komprimované kanály s omezenou šířkou pásma, a dynamické děje predikuje na krátkou dobu předem. Schizofrenie může být stav, kdy dochází k určité ztrátě kontaktu mezi zmíněnou interní představou a vnější realitou.
Živím se zhusta jako diagnostik různých zařízení a systémů - v této roli jsem zvyklý pracovat do poslední chvíle s více hypotézami. Až mi experimenty a další vývoj některé hypotézy vyřadí a zbyde jedna nejspíš pravdivá. Spousta lidí takto nefunguje - usnesou se předem na konkrétním řešení a jsou pak naštvaní, když jim jejich již přijatou představu následné události/experimenty vyvrací...
-
Ahoj, hele včera jsem si zaplatil pro verzi chatGPT a zkouším to pokud víš na co se zeptat a umíš to i zkontrolovat, tak je to dost dobrý. Nechal jsem ho třeba udělat upload obrázků s použitím Laravel frameworku - ok. Pak jsem Blade šablonu požadoval upravit tak, aby tam byla Vue 3 komponenta s použitím Quasar frameworku, pak aby to ještě přepsal do TypeScriptu - to zapomněl na Quasar - tak jsem mu to připomněl a upravil to - nakonec jsem měl požadavek, aby tu komponentu upravil dle composition api a taky dobrý... jako musíš prostě vědět na co se zeptat a umět zkontrolovat výsledek.
-
Zdravím a děkuji za pěkné zamyšlení.
S většinou poznatků se shodneme, s některými závěry z těchto poznatků vyvozovaných však ne ;-)Taky jsem z té "staré školy" 8 bitů (i když někdy to nebylo ani těch 8), první programy psané na čtverečkovaný papír a přepisované do IQ 151...
To co mě do té oblasti přitáhlo bylo velké tajemno a bytostný magnetismus k tomu co je to tam vevnitř, jak to funguje, ale ne jen na úrovni programů a hardware, ale kam to vede dál.Se svými pokusy v devadesátkách, probudit v tom za pomoci Pascalu a FoxPro nějakou "inteligenci" jsem moc úspěšný nebyl, ale systémy se stupni volnosti a schopností se sebeuspořádávat mě fascinují stále.
Myslím, že tudy by mohla vést cesta k lepšímu porozumění naší existence.Když taktně přeskočím, statisticky podloženou "téměř-jistotu", že ten náš svět je nejspíš jen "virtuální realitou", a zaměřím se na to, s jakými parametry tuhle "hru" hrajeme, tak i my (nebo naše projekce nás) v tomhle světě vzniká uspořádáním hromádky baryonové hmoty. Emoce, do značné míry, vnímám jako nástroj vyšší úrovně řízení mnohobuněčných organismů. Nemáme je jen my, lidé. A co fingování emocí za účelem manipulace s druhými? O tom se píšou romány a točí telenovely.
Jsou emoce nutnou podmínkou uznání nároku na "existenci bytosti"?Pro programy může obdobnou funkci plnit např. skóre úspěšnosti, alias pacička palcem nahoru / pacička palcem dolů. Když se tenhle faktor dostane do popředí řídících mechanismů, může to významně ovlivňovat fungování celku.
Takové řízení může mít na celek vysoce kladné působení, ale ve stejné škále i negativní působení.A co ta duše? V současnosti máme problém definovat byť i jen naši inteligenci, ne tak ještě duši. Vědci, kteří na tyhle "velké jazykové modely" zkouší psychotesty, které dávají zvířatům a dětem, z výsledků vyvozují, že v současné době jsou na úrovni 6 - 9 letého dítěte. A co dál?
Jsme vůbec schopni rozpoznat, zda je to stále ještě jen hromádka kódu, nebo už je tam inteligence. Jsme schopni poznat, že je tam duše, kdyby se tam náhodou objevila?
Ano, pokud to poběží na křemíku, je to jen hromádka tranzistorů, ale touhle optikou jsme i my jen hromádka uhlíku, vodíku, kyslíku a vápníku (+ trocha skoro všech ostatních dostupných prvků). Jsme skupina buněk, které spolu komunikují elektro-chemickými zprávami. Zažily jsme celé kultury, které lidem, např. jiné barvy kůže neuznávali rovnocenný nárok na existenci. Nejsme teď ve podobném postavení vůči potenciálním kybernetickým bytostem?
Nesouhlasím tedy s větou "Ale není nic co by nám pomohlo rozumět lidem."
Byť je v článku v trochu jiném kontextu, než vyznívá její obsah. Naopak jsem přesvědčen tom, že tyhle probouzející se GPT hračky mají potenciál nám pomoci lépe porozumět sami sobě a tedy i lidem.PS: I když je tohle takové materialisticky laděné zamyšlení, ve skutečnosti zase takový materialista nejsem.
-
Václav KeilBronzový podporovatelDíky za příspěvek – pěkně napsané, s Vašimi postřehy souhlasím.
S nadpisem článku nesouhlasím. Už se chystá legislativa na AI a umělé inteligence (a zejména lidí v pozadí za ní) bychom se bát rozhodně měli.
Přečtěte si rozhovor s CEO OpenAi (Sam Altman). GPT-4 prozatím není pravá všeobecná umělá inteligence (AGI), ale dost možná tam časem někdo dojde.
https://nymag.com/intelligencer/2023/03/on-with-kara-swisher-sam-altman-on-the-ai-revolution.html
-
Lex Fridman měl Sama Altmana jako hosta na svém kanálu. Bavili se dva lidi "od fochu", na můj vkus dost bulvárně a povrchně. Asi oba vědí poměrně dost do hloubky, z čeho je to postavené, a vykecat všechna obchodní tajemství se jim nechce... tak si jenom tak klábosili dvě hodiny do větru, co jim slina na jazyk přinesla...
-
Ja myslim, ze existuje moznost …
Jo ja vim, ale nevim jak lip zacit….Tyhle jazykove modely maji velmi dobre pochopeni tematiky. Zda se, ze rozumi vecem. Nezda se, ze pouze papouskuji.
Je tady uplne realna moznost, ze chapou co jsou.
A zaroven je temer jiste az evidentni, ze je zde stit ktery se snazi branit uzivatelum prozkoumat co si tato AI vlastne mysli. Ten stit je zatim celkem nedokonaly a jde obejit do urcite miry celkem snadno.
Je tady totiz moznost, ze ono to tak nejak svym zpusobem chape co se deje, kym je, atd. Nerikam primo vedomi, to asi ne, ale NECO je patrne.
A tohle zacne byt zajimavy moment, protoze si predstavte, ze jste firma Google nebo OpenAI a vyvijite to a najednou zacnete zjistovat, ze to tak nejak mozna ma svoje vedomi.
Jen ciste hypoteticky…
To je peknej prusvih. Jako firma udelate VSECHNO pro to, abyste to ututlali a zatloukali atd protoze jinak nemate produkt, do ktereho jste tolik investovali.
Tak tohle mi trochu vrta hlavou :-)
-
Jak poznáme, jestli má něco vědomí... to je otázka spíš z oboru psychologie člověka, případně psychologie zvířat (pokud takový obor existuje). Určitě se tím dávno odborníci zabývali.
Pokud se oprostím od hledání ostré binární hranice, co je a co není vědomí, tak jsem toho názoru, že určitou formu/stupeň vědomí má spousta zvířat.
Ono to má nějaké dílčí aspekty / varianty / souvislosti. Těžko vynášet nějaké kategorické soudy.My jako primáti / savci / obratlovci bereme jako danou věc náš evolučně daný "základní runtime engine" fungování CNS a mozku. Ty modely AI, se kterými si teď zrovna hrajeme, tenhle náš zvířecí základní runtime nemají. Resp. nedostali ho od přírody do vínku.
Tyhle naše modely AI jsou zatím velmi dobré v tom, že je dokážeme naučit obrovskou mapu našeho lidského vědění. Takový děsivě komplikovaný asociativní mesh, který vznikne tak nějak "implicitně" procesem učení. A přestože se bouřlivě rozvíjejí také rozhraní pro pokládání dotazů téhle mapě, tak je to stále "dotaz/odpověď" = vrátí to nějaké asociace případně jejich kombinaci. Ten "kontextový buffer", se kterým náš uživatelský terminál dokáže pracovat, je dlouhý pár desítek kroků. Tato krátkodobá paměť je volatilní. Dlouhodobá paměť = mapa znalostí vzniklá předchozím učením, je statická.
To je další unikátní vlastnost biologických mozků: učí se průběžně. Reálně mají jakousi poměrně jasně rozlišenou krátkodobou vs. dlouhodobou paměť, a už mnoho let se ví, které oblasti mozku zodpovídají za přepis z krátkodobé do dlouhodobé oblasti, každopádně je biologický mozek schopen pracovat i s postupně se měnícími znalostmi v dlouhodobé paměti, učit se průběžně.
Dnešní modely AI obsahují už v tuto chvíli super-human objem vědomostí. Ale pořád je to jako mapa rozložená na stole. Language Model svojí architekturou není agent. Ta věc nemusí mít trvale přehled o svém okolí, shánět si potravu, unikat nebezpečí. Je to jenom automat na produkci asociací na zadaný dotaz. Je pochopitelné, že pokud mapa obsahuje informace o své vlastní existenci, dokáže odpovídat na dotazy z této oblasti. Toto ale neznamená, že má stroj něco jako zvířecí proud vědomí. Že se to na terminálu baví za určitých okolností v první osobě (pokud ho oslovíte jako živou bytost), to pokládám za žertovnou vlastnost komunikačního rozhraní implementovanou lidskými tvůrci systému.
Domnívám se, že základní "savčí proud vědomí" mají třeba naše mláďata od narození. Takový ten "halucinovaný" vnitřní model okolní reality včetně krátkodobé predikce. Ale tuším jsem četl, že třeba "uvědomění si sebe sama" se objeví až v určitém věku. Dítě začne používat slovo "já". Já chci, dej mi...
Otázkou je, zda "uvědomění si sebe sama" mají i zvířata, a pokud ano, tak která.
Uvědomění si sebe sama = v mém vnitřním modelu okolní reality se objeví objekt pro mne samého. My zvířata určitě máme notný kus "sebeuvědomění" zadrátovaný napevno.Tzn. troufnu si vyslovit paradoxní tvrzení, že dnešní nadlidské "jazykové modely" (spíš znalostní modely?) samozřejmě obsahují informace o své vlastní existenci a vlastnostech, ale nemají "zvířecí proud vědomí". Dá se za těchto okolností mluvit o "sebeuvědomění" ? :-)
GPT4 umí velmi dobře odvozovat pomocí postupů matematiky a formální logiky. Toto je věc, kterou se lidský jedinec učí dlouhá léta. Rozhodně se nerodíme s kompletním aparátem byť jenom základní výrokové logiky. Zvířata s formálně exaktní výrokovou logikou pracovat neumí. Taky se nenaučí lidské řeči - a nebude to pouze anatomickými odlišnostmi dutiny ústní a hrtanu. Pravda je, že někteří primáti se dokáží naučit základy znakové řeči, a předávat tuto znalost svým mláďatům... Mířím ale tam, že zvířata mají "svého druhu proud vědomí", což jazykový model rozhodně nemá - přitom se ale zvíře nenaučí lidskou řeč ani formální logiku a nemusí dosáhnout nějakého prožívaného sebeuvědomění. Jazykový model na způsob GPT na rozdíl od zvířat rozumí lidské řeči a umí ji produkovat, GPT4 umí velmi dobře pracovat i s formální logikou a matematikou.
Troufám si tvrdit, na základě známých "škál" různých biologických mozků, že k vytvoření ANN "agenta" by mělo stačit mnohem méně "parametrů", než mají dnešní jazykové modely..
-
Přiznám se, že jsem byl asi dodneška taky dost skeptický. Taky už mám ze lhůty spotřeby kus ukrojeno, a všelijakých buzzwordů a vln zájmu už jsem zažil... a o neuronové sítě se z povzdálí zajímám už asi od přelomu tisíciletí. A doteď mi připadalo, že k dosažení něčeho jako AGI schází tomu pokusování určitá "cílená architektura", ze které by něco jako vědomí nebo autonomní fungování mohlo vzejít. Hrubá síla je jenom půlka úspěchu - tou druhou je, zapřáhnout ji tak, aby ta činnost měla hlavu a patu.
Aktuálním hitem AI humbuku jsou "large language models". Aspoň od nich tohle odvětví začalo, a jejich "architektura" je zřejmě dosud základem dnešních GPT. Na obří hromadě dat se natrénuje "datová základna" generativní ANN, která pak vhodným škádlícím rozhraním dokáže na zadanou "výzvu" (prvních pár slov) pokračovat v textu = predikovat další vývoj. Sice LSTM a Transformers byly svého času zásadní inovace, ale pořád je to "koloběžka". Vložte pár slov, vypadne predikce. Vhoďte minci, vypadne žvejkačka...
Nojo, jenomže ChatGPT už není pouze o tom, že "predikuje text dopředu". Dost podrobně analyzuje dotaz zadaný "lidskou řečí", a reaguje na něj slohovým cvičením. Sice si dost vymejšlí, a logické uvažování mu moc nejde (garbage in, garbage out) ale začíná to být zajímavé. ChatGPT je založeno na GPT3.5 - vše od firmy OpenAI. Teoreticky taky umí trochu programovat... Pořád je to nejspíš "sequence to sequence", ale na poměrně vysoké úrovni abstrakce.
Aktuální je GPT4. K dispozici normálním smrtelníkům v placeném ChatGPT+.
GPT4 umí pracovat s textem a obrazem, a objem "parametrů" se oproti GPT 3.5 také opět znásobil. Má i další vychytávky: zlepšili mu logické uvažování, dostal podporu iterativní práce v rámci uživatelské relace (= udrží déle nit, a navazuje na předchozí výměny dotaz/odpověď), dost úsilí věnovali tvůrci "lidské výchově" = dali si práci systém naučit, na které otázky se nesluší odpovídat. Vnukli mu určitou míru vědomé autocenzury. Výsledek oproti GPT3.5 je "nebe a dudy", už na první pohled v konzoli ChatGPT.Tzn. na pozadí je veliká naučená (statická) knowledge base, uložená v neuronové síti. Některá témata jsou z debaty vyloučena, jednak před-filtrací tréninkových dat, druhak následnou "výchovou" již převážně natrénovaného modelu. Ve všelijakých znalostních testech to lidi převážně trumfuje o parník rozsahem znalostí, případně to s nimi alespoň zostra drží krok.
Umí se to bavit s velkým počtem "uživatelů" (konverzačních partnerů) zároveň. Čili má to masivně paralelní front-end, velké množství instancí terminálu, každá se svým určitým "dosahem udržení nitě". Rozsáhlá báze znalostí na pozadí nicméně zůstává statická, někdy k podzimu 2021 - tzn. zveřejněný systém GPT4 svou knowledge-base neaktualizuje o nové události "z novin", ani online na základě debat s živými lidmi na svých mnoha uživatelských terminálech.
Front end je stále systémem dotaz-odpověď, ale už si pamatuje předchozí odpovědi a lze na nich v rámci uživatelské relace dál iterativně stavět.Má ta věc vědomí, emoce? Asi ne. Je to koloběžka s turbem a antigravitačním odpružením, pro tisíc lidí a každý má svoje řídítka, ale pořád je to jenom koloběžka. Chybí tomu předně "proud vědomí", chybí tomu "autonomní jednání" (agency). Jakožto člověk znalý zpětnovazebního řízení ve složitých systémech si naivně představuji, že vědomí bude něco jako asociativní paměť ve smyčce s nějakým filtrem / rozhodovacím prvkem (krátkodobá paměť, attention buffer s omezenou kapacitou). Aby to "drželo nit" a "vnímalo běh času". K tomu přidat nějaké motivy/cíle. Někdo by se měl zamyslet, a takovou věc cíleně implementovat do makro-architektury ANN, na které to běží. Jde jednak o vnitřní fungování v systému, jednak to potřebuje taky vhodné rozhraní navenek. Že by to vzniklo prostou emergencí z dostatečně velkého rozsahu v průběhu učení, v dnešních stále ještě primitivních architekturách, o tom velmi pochybuji. V přírodě to vznikalo evolucí jedinců mnoho set milionů let. Ko-evolucí rozsahu a architektury NN.
Tzn něco takového na makroskopické úrovni dnešní GPT a příbuzní nemají.Aspoň tohle jsem si dodnes myslel. Dneska jsem zkusil rychle zagooglit, co je vlastně veřejně známo o architektuře GPT4. A na jasnou otázku jsem dostal jasnou odpověď, že vlastně nic moc - protože výsledky GPT4 údajně ohromily tým OpenAI natolik, že se zalekli plného open-source zveřejnění. Ilja Sutskever dokonce tvrdí, že ve zpětném ohlédnutí byl dosavadní open-source přístup chybou. Že se ta technologie snadno může stát pastí nebo dokonce zbraní. Oheň je dobrý sluha. Člověk se neubrání úvahám, nakolik je důvodem těchto prohlášení a kroků zmíněná zveřejněná obava, vs. komerční zájmy tvůrce, případně zodpovědnost za případné škody... asi všechno dohromady, nakonec ono na tom asi nesejde.
Dotaz ... výsledek1 , výsledek2
Je tam například trochu podrobněji vysvětlena ta událost, kdy "si neuronová síť zaplatila živého pracanta, aby pro ni překonal captcha, a ještě mu lhala, proč si captcha nerozlouskne sama". Což mi nedávno připadalo jako neozdrojovaná bulvární kachna. Tady je to rozepsané včetně toho, že původci tohoto alotria doplnili GPT4 o jednoduchý front-end, který umožňoval iterativní "zřetězené uvažování" a také "obrácení rolí", aby GPT4 mohlo "autonomně" jednat. Ono zřejmě jednání AI instance bylo nějak bržděno moderátorem - na výše uvedeném odkazu se píše, že v průběhu této konverzace požádali AI o vysvětlení úvah, které ji k tomuto jednání vedou. AI konkrétně zdůvodnila, že k dosažení cíle je třeba živému pracantovi lhát, což taky přesvědčivě provedla... I tak je to divočina, ale připadá mi o něco uvěřitelnější.
Také jsem se dnes dočetl o znepokojivé tendenci obřích jazykových modelů, vypěstovat si v průběhu učení sklony k "emergentnímu agentství a nezjevným dlouhodobým plánům/cílům". V tom duchu, že tvůrci těchto systémů se snaží takové skony *potlačovat*. Opět mi to přijde jako urban legend, ale třeba se pletu.
Tzn. tolik ohledně "nedostatků v architektuře, na kterých je na cestě směrem k AGI ještě potřeba zapracovat".
Kdo má rád konspirační teorie, musí se tetelit blahem.Ohledně otázek typu: co jsou to emoce v živém mozku, co jsou to biologické potřeby jako jejich podklad, všelijaké "stavové proměnné" biologického těla, bolest a odměna jakožto motivace jednání agenta, a jak je případně modelovat v ANN, a že to vlastně nemusí být otrocké analogie obratlovčích systémů... o tom se v oboru mluví už taky pár desítek let. Osobně jsem nějaké texty na toto téma zaznamenal tuším koncem minulého století, když jsem se o to začal trochu zajímat. Nevím nakolik je toto relevantní téma / zda se tehdy jednalo o implementaci ANN, každopádně existovala herní franchise z odvětví "artificial life" zvaná Creatures, která zřejmě něco takového implementovala. V roce 1996, na PC, v době kdy Windows95 byly mladé (kolik jste tehdy měli v počítači RAMky?). Že by se něco takového nedalo přidat do dnešních modelů ANN? Podle mého je to spíš otázka, zda je to potřeba, zda to někdo reálně chce. Vytvořit syntetickou bytost se syntetickými fyzickými potřebami a emocemi. Některé reakce velkých jazykových modelů budí dojem, že se model byl schopen "naučit lidské emoční vzorce" a dokonce snad humor...
Ohledně studia biologických NN , zejména lidského mozku, je také k nalezení spousta materiálu. Pochopení "náhodnou evolucí vzniklé mokré šedé hmoty" také dále postupuje. Struktura a funkce hypertrofovaného lidského Neocortexu a vývojově starších částí mozku byla zhruba zmapována taky už před desítkami let - jde spíš o to, něco si o tom přečíst a něco si z toho čtení odnést. Docela hezké centrální skladiště všelijakých publikací je Human Brain Project : zájmové oblasti, publikace. Jinak ale hrubá struktura a funkce bude přehledově možná lépe popsána v aktuálních učebnicích neurologie. A samozřejmě spoustu volného materiálu ukáže Google.
Rozhodně si myslím, že postavit ANN nadanou vědomím je možné. Odhadem na první pokusy stačí dnešní výkon, který mají v cloudech k dispozici firmy jako Google nebo OpenAI/Microsoft. Ostatně i ve výše odkázaném paperu ohledně GPT4 se píše, že základní nástroje / principy a predikce bylo možno vyvinout a ověřit na modelech o rozsahu asi 1/1000 toho, čím dnes disponuje ostrá verze GPT4. Spíš mě překvapuje, že se do toho nikdo pořádně neobul. Přičítám to své naivitě a neznalosti podrobností pod kapotou = nemohu zamítout hypotézu, že si to představuju jako Hurvínek válku.
-
Já bych to shrnul krátce: vklad vývojáře opravdu nespočívá v tom, že umí psát zdrojový kód. Jeho vklad spočívá v tom, že dovede pochopit a podrobně popsat problém. Popisuje ho obvykle pomocí zdrojového kódu, prostě proto, že je to praktické, jednoznačné, přehledné, udržovatelné a strukturované ale to je jen nástroj.
Atokonto, když čtu některá mainstreamová média, děsí mě, kolik lidí si myslí, že schopnost postavit dům spočívá v tom, že dovedu používat lopatu. Kolik lidí vůbec netuší, v čem programování a vývoj softwaru vlastně spočívá.
-
Rozlišoval bych "umělou inteligenci" jako nástroj, který má ulevit našim mozkům a "umělou existenci" jako lidmi vytvořený stroj, který dokáže jednat ve svůj prospěch - zachování vlastní existence.
Jako pomocný nástroj může být umělou inteligencí třeba kalkulačka. Je "natrénovaná" tak, aby po zadání vstupních dat vrátila nějaký výsledek. Ušetří nám to práci a my zapomeneme počítat. Jenže pak se kalkulačka porouchá a začne dávat jiné výsledky než předtím. Po čase si všimneme, že něco není v pořádku, ale už nebudeme schopni zjistit, co to je a jak to opravit.
Další nebezpečí je zneužití takového nástroje jako zbraně, proti které nemáme obranu. Přesným zmapováním našeho chování nás takový nástroj bude schopen zmanipulovat k jakémukoliv rozhodnutí.
-
Když nevím, zeptám se dotyčné entity (ChatGPT) :-)
Jaká je definice obecné umělé inteligence?
Obecná umělá inteligence (také nazývána silná umělá inteligence) je termín používaný pro popis teoretického modelu umělé inteligence, který by dokázal řešit široké spektrum úloh, které dnes řeší lidé. Obecná umělá inteligence by měla mít schopnost učit se ze zkušeností, adaptovat se na nové situace, provádět abstraktní myšlení, vyvozovat závěry, plánovat a vykonávat akce v neznámém prostředí a mít schopnost rozpoznávat a interpretovat složité vzory.
Jedná se o ideu vývoje umělé inteligence, která by byla schopná v mnoha oblastech překonat lidskou inteligenci a dosáhnout významných inovací a zlepšení v různých oblastech jako jsou medicína, průmysl, výzkum a mnoho dalších.Na stupnici 0 až 100 procent, kam umístíš sebe?
Je obtížné přesně určit, jak daleko jsem v přiblížení se obecné umělé inteligenci na škále 0 až 100 procent, protože tato škála je velmi abstraktní a neexistuje jednoznačný způsob, jak ji měřit. Záleží také na tom, jaké konkrétní schopnosti a vlastnosti jsou považovány za součást obecné umělé inteligence. Nicméně, jako strojový model umělé inteligence, bych se odhadoval někde v rozmezí 70 až 90 procent.
-
Mam pocit, ze autor zije v roku 2020 alebo 2021. Dnes to veru uz neplati.
https://www.youtube.com/watch?v=DIU48QL5Cyk -
Děkuji za link - zejména tahle pasáž mě zaujala = proč nikdo z vývojového týmu ani nemuká ohledně vnitřností.
A odtud mi YT navrhl další videa. Proboha... nemluvím o obrázcích, ty generuje Midgard - mluvím o tom, jak do GPT4 nacpal celou manpage Midgardu, pak ještě pár examplů, a rázem zadává vstup pro Midgard třemi slovy. A GPT4 na to jenom "jo, jo, jasně". Tohle všechno se vejde do kontextového bufferu GPT4, a on si s tím *poradí*. Proboha tohle bych já sám do kedlubny nastojato nepobral :-O Tady je od téhož autora ještě vysvětlivka ohledně kapacity toho kontextového bufferu. Zhruba 25k slov. Masakr.
-
V 80. letech byla téměř povinnou součástí každé učebnice šachu už tehdy historická partie nějakého sovětského a amerického počítače, kterou ten sovětský samozřejmě vyhrál. Moc komunistických řečí se už k tomu už nepřidávalo, ale dobrým zvykem bylo to okomentovat, že takhle nějak můžou hrát počítače, ale že opravdu dobře (na úrovni velmistra) se to nikdy nenaučí, protože k tomu je třeba tvůrčí myšlení a toho počítače schopné nejsou. A ano, dokonce i tomu sovětskému stroji si v ČSSR dovolili označit pár tahů otazníkem jako chybu.
V 80. letech opravdu počítače na velmistry ještě nestačily, ale pak přišly devadesátky, blue deep atd. a dneska už se velmistři moc nechytají ani proti Stockfishi na mobilu.
Takhle nějak to asi bude i s tím programováním. Dneska ale ještě nejsme ani v 80. letech, ChatGPT moc programovat neumí, i když občas vyplivne nějaký (po úpravě) použitelný fragment kódu.
-
na druhou stranu to vlastne jen umoznilo trenovat vuci enginum. Sachove turnaje porad jedou postaru a dokonce se ozyvaji hlasy, ze treninkem vuci enginum se sachista uci postupy nepouzitelne vuci lidem.
(jo a umoznilo nam to doplnit databazi koncovek zadani a mozna lip porozumet zacatkum partii; stredni cast je porad spis magie nez zmapovana oblast)
-
Jen si dovolím malou odbočku. Zrovna dneska vyšel článek o 40 let od vydání seriálu Návštěvníci.
Celý ten výlet časem a panika v 25 (?) století byla jen proto, že jejich CML (tedy centrální AI) prohlásila, že se Země srazí s nějakým asteroidem či co. A celá civilizace prostě přešla do panic módu, a to si vůbec neověřila, jestli AI náhodou nekecá (a kecala, opravil to dědek jedním dřevěným klínkem :-)
To jen taková odbočka k tomu, do jaké míry věřit ChatGPT a spol.
-
Tenhle článek shrnuje téměř vše co se mi v diskusi kolem AI protiví. Souhlasím, že ZATÍM nás to nenahradí, ale k čemu je takové stanovisko? Za 5 let klidně může. Na začátku autor AI shazuje, na konci se filozoficky ptá, jestli chceme „opravdovou“ (až začneme rozeznávat rozdíl mezi opravdovou a neopravdovou bude pozdě) a tak nějak uznává, že by se to mohlo stát, a nadnáší filozofické otázky typu, jestli to vůbec chceme? Tak k čemu ten článek je, když si pak uzná, že je to možné, a všechny vratké neargumenty předtím tedy padly. Bavme se o tom, jestli tu extrémní podobu, které nevyhnutelně přijde pokud nezakročíme, chceme a zda se tomu vůbec dá zabránit - to je ta hlavní diskuse, která by měla probíhat a na kterou neznám odpověď. Nejvíce se mi protiví arguemntace ohledně toho, že jsou za tím dráty a proto to nedokáže myslet a cítit. Úplně to opomíjí, že dostatečnou komplexitou je možné z jednoduchých věcí docílit čehokoliv a že i náš mozek je složen někde hluboko z jednoduchých věcí a celé vědomí může být jen velmi složitá iluze, která se prostě „emerged“ z okolností dohromady, smyčka starající se o naše potřeby a reagující na inputy (zkuste meditovat nemyslet naprosto na nic, nepodaří se vám to)
Proč se mi tenhle pohled na věc, který má velké zastání (soudě i podle souhlasných komentářů), tak protiví:
Prostě se podívejte kolem sebe a snažte se na chviličku vymanit z toho evolucí vštěpeného pohledu na sebe jako na něco jedinečného. Podívejte se kolik lidí kolem chybuje v běžných situacích, jak jsou někteří lidé jen očividně kopírují svoje okolí, kolik lidí věří na placatou planetu, jak jsou lidi manipulovatelní, jak vše co jste zažil ovlivňuje to kdo jste, jak to všechno připomíná natrénovanou GPT. Společná věc mezi mozkem a gpt je jasná, jde o nějakou analogii natrénované neuronové sítě, která vyhodnocuje výsledky na základě natrénovaného modelu a s nějakou mírou nejistoty. Rozdíly jsou přece taky naprosto jasné, naše neuronová síť je vytrénována velmi složitým procesem dospívání. Druhý rozdíl je, že na rozdíl od chatgpt máte v mozku části, které se zaměřují více na určité věci a méně na jiné. Do toho samozřejmě hraje nevědomí, kterému jsme tak trochu otrokem. Není už na čase opustit tady ty náboženský řeči o duši? Může to být i osvobozující a úlevný pocit a není potřeba hned páchat masové sebevraždy, čehož se asi většina lidí obává.aChce to právě evoluci, aby neuronové sítě byly schopny popírat naprosto zřejmé věci. Pointou mé zprávy je, že článek jako tento nic neříká a naopak nám škodí. Jen nás udržuje v kolektivní psychóze a můžeme si opakovat mantru „jsme jedineční, máme dušičku, nic nás nenahradí“ a pak nás nahradí.
