Báránynak hittük, pedig velociraptor – tényleg fordulópontnál jár az AI a magyar guru szerint

[00:00:09]Lassítani kell a mesterséges intelligencia modellek fejlesztési ütemét.

[00:00:13]Attól tartok, hogy 6-12 hónapon belül egy ágensraj képes lehet átvenni az egész internet feletti irányítást egy botnet hálózattal.

[00:00:22]Még mindig csak a töredékét értjük annak, ami modellek belsejében zajlik.

[00:00:28]Azok az intézkedések, amelyeket a biztonság érdekében javaslok, nem lesznek könnyűek, de hiszem, hogy tartozunk annyival az emberiségnek, hogy megpróbáljuk.

[00:00:41]Dario Amodej, az Antropic nevű AI cég társalapítója és vezérigazgatója szeptember 12-én közzétett eszéjében írta ezeket, és rajtakívül még tucatnyi kutató, fejlesztő, cégtulajdonos nyilvánult meg, és nyilatkozott úgy, hogy az AI fejlődésnek egyfajta fordulópontjához érkeztünk.

[00:00:58]Mi történik itt?

[00:01:01]Mennyire komoly ez az egész?

[00:01:01]És hol tart most ez a technológia?

[00:01:03]Erről szól a mai adásunk.

[00:01:06]Köszöntöm [torokköszörülés] a nézőket és a hallgatókat.

[00:01:08]A Válasz online stúdiójában Borbás Barna, illetve hát az ügyben szakírónk Laki Zoltán kolléga.

[00:01:15]Szervusz!

[00:01:17]Szervusz!

[00:01:17]Köszöntöm a nézőket, hallgatókat.

[00:01:19]És kiváló vendégünk is van.

[00:01:19]Huszár Ferenc mesterséges intelligencia kutató, a Cambridgei Egyetem professzora, a Reasonable AI Laabs Techvállalkozás alapítója.

[00:01:29]Szervusz!

[00:01:31]Szervusz!

[00:01:31]Én is köszöntöm a hallgatókat.

[00:01:33]És mielőtt belevágunk a beszélgetésbe és mindezt kibeszéljük, arra biztatom a nézőket és a hallgatókat, hogy iratkozzanak fel a csatornáinkra, kövessenek bennünket amilyen platformon csak tudnak, és hogyha lehetőségünk van, akkor támogassák is a munkánkat.

[00:01:45]Minden részlet a leírásban megtalálható ehhez.

[00:01:51]És akkor Ferenczhez fordulok, aki követi például Zoli cikkeit a Válaszonline-on, találkozhatott veled.

[00:01:58]24-ben jelent meg az a nagy interjú, ugye, ahol ahol veled ezt először átbeszéltük ezt a problémabokrot.

[00:02:02]Annyit mondanék el a akik esetleg nem találkoztak ezzel az interjúval, ezt is linkeljük a leírásban azoknak a nézőknek, hallgatóknak, hogy a Magic Pony Technology vezető kutatójaként dolgoztál mesterséges intelligencián alapuló képjjavítási és videótömörítési technológiákon.

[00:02:19]És 16-ban egy zseniális húzással ezt fel is vásárolta a Twitter, azóta X vagy X, és ott dolgoztál gépi tanuláskutatóként, majd ezt követően léptél át a a az egyetemi világba.

[00:02:37]De akkor segíts fölvenni a fonalat, hogy pontosan mi a reasonable, mert az elmúlt időszakban inkább kutatóként iratkoztál, viszont ahogy itt a felvezetőben is mondtam, most van egy techvá vállalkozásotok londoni és budapesti székhellyel, ha jól mondom.

[00:02:50]Mi ez?

[00:02:53]Igen, ez egy ez egy vállalkozás, ami egy startup vállalkozás, ami körülbelül egy éve indult, bár a csapat az az a a mostani év elején kezdett el igazán felépülni.

[00:03:06]Ez egy egy ilyen frontier AI kutatófejlesztő vállalat.

[00:03:12]A frontier AI alatt azt értjük, hogy a mesterséges intelligenciának a az élvonalában lévő problémákon dolgozunk.

[00:03:18]Amin amivel mi foglalkozunk, az a az a szoftverek programozásának, illetve a programozásnak a jövője.

[00:03:25]És ha sikeresek leszünk, azon dolgozunk, hogy a világ szoftver rendszerei azok sokkal megbízhatóbbak és biztonságosabbak legyenek.

[00:03:34]Ö a konkrétület, amin dolgozunk, az nagyon technikai, tehát valószínűleg a hallgatók nagy része nem fogja ezt ismerni.

[00:03:42]Úgy hívják, hogy formális verifikáció.

[00:03:44]Ez egy olyan lehetőséget ad a programozásban, hogy matematikailag bebizonyítsuk, hogy egy szoftverrendszer azt csinálja, amit szeretnénk, vagy bizonyos tulajdonságait bebizonyítsuk.

[00:03:57]tehát, hogy bizonyos fajta hibákat mondjuk nem vét, vagy bizonyosfajta támadások ellen matematikailag bizonyíthatóan védelmet nyújt.

[00:04:05]És amit még talán érdemes rólunk tudni, hogy egy pici, de nagyon tehetséges csapattal dolgozunk.

[00:04:15]Budapesten van a a kutatófejlesztő csapatnak a nagy része.

[00:04:20]És egyébként a Dunán egy hajón van irodánk, ami nagyon klasszá teszi.

[00:04:24]És ide olyan olyan emberekkel van lehetőségünk dolgozni, akik bár sokan nagyon fiatalok, mégis a ennek a szakterületnek tényleg az élvonalába tartoznak.

[00:04:36]Sokan diákolimpiai háttérrel jövő diákok vagy külföldön a legjobb egyetemeken tanuló diákok voltak valaha és és most nálunk dolgoznak.

[00:04:47]Tehát ilyen szempontból ezt a célt, amit kitűztünk a reasonableel, hogy Magyarországon egy fókuszpontot biztosítsunk a legtehetségesebb magyar matekos, programozós embereknek, azt azt így kezdjük elérni, én azt gondolom.

[00:05:04]Úgyhogy egy nagyon jó szakmai közösség is kezd kialakulni ezen a cégen belül.

[00:05:08]És a műsor végén még fogunk még vissza fogunk térni arra, hogy hogy milyen tapasztalataitok vannak speciálisan a magyarországi működésről, de előbb a a témafelvetés.

[00:05:16]Ugye idéztem már a egy néhány erős mondatot a műsor bevezetőjeként, de most kicsit rendhagyó módon a Laki Zoltán kollégát fogom kérni, hogy ismertesse azt a cikket, amely nemrég jelent meg az ő tollából, és az volt a címe, hogy azért nem lehet eldönteni, hogy megöl-e mindenkit az AI, mert ez hitvita.

[00:05:35]Ezzel vezessük fel a témát, hogy te hogyan foglaltad össze ezt az egész problémát, és milyen frontvonalakat láttál.

[00:05:42]Jó, hogy itt van ez a klímaváltozással kapcsolatos válasz offline az asztalon, mert a pont [torokköszörülés] egy ilyen példányt adtam el az előző klubestünkön egy kedves olvasónak, aki megkérdezte, hogy mitől fogunk kihalni a az aszájtól és a klímaváltozástól vagy a vagy a mesterséges intelligenciától?

[00:06:05]És mondtam, hogy én erre a kérdésre nem tudok válaszolni.

[00:06:06]Én Én magam részől egyelőre még az aszálytól félek jobban, de ki tudja.

[00:06:11]és szerkesztőségen belül a kollégák között is vannak az apokaliptikus tábornak hívei.

[00:06:18]És akkor innen jött az ötlet, hogy megnézzem különösen az elmúlt nyár kiberbiztonsági incidensei után, hogy hol áll tulajdonképpen ez a diskurzus.

[00:06:28]De nyilván már a címben elárulom, hogy én nem fogom tudni megmondani erre a választ, már csak azért sem, mert hogyha Dario a modi nem érti valójában, hogy mi történik a modellek belsejében, akkor én mint nem szakember újságíró pláne nem értem, hogy mi történik a modellekben.

[00:06:42]Úgyhogy csak arra tudtam válasz vállalkozni, hogy a diskurzust egy kicsit összefoglaljam, bemutassam azokat a nagy táborokat amelyek ebben a témában kialakulni látszanak.

[00:06:58]És mert hogy van két nagy tábor, tehát vannak a szkeptikusok, Igen.

[00:07:00]akik azt mondják, hogy na, hogy azért nem nem kell pánikba esni, meg hogy ez az egész ez túl.

[00:07:06]És vannak a a doomerek, akik pedig Igen, vannak a a azok, akik már tulajdonképpen még azelőtt, hogy a közvélemény a mesterséges intelligenciával, mondjuk a chat GPT berobbanásra, akkor találkozott volna, már évekkel azelőtt elkezdtek figyelmeztetni a világvége veszély veszélyeire.

[00:07:23]őket ugye Doomernek is szokták mondani, vagy és és ugye ők tulajdonképpen a saját próféciiknak a beteljesülését látják most megvalósulni.

[00:07:36]Vannak azok, akik akik nem apokalipszist, hanem éppenséggel valamiféle megváltást, vagy vagy a mindenföldi problémának a megoldását, a szegénység megszűnését várják az EI-tól.

[00:07:48]Tehát egyfajta ilyen isten vagy csodavárással tekintenek rá.

[00:07:54]Meg vannak azok, akik olyan szinten szkeptikusok, hogy egyiket sem kell tőle várni, mertogy a valójában nincs benne ebben a technológiában, mondjuk a nagy nyelvi modellekben az, hogy hogy ilyen szinten befolyásolják az emberiség jövőjét.

[00:08:11]Ühüm.

[00:08:11]Na, tehát ez a probléma, amikre elég sok mindenre várunk, legalábbis nem választ, de legalábbis véleményt tőled, [torokköszörülés] de egy picit lépjünk azért hátrébb, hogy értsük, hogy miről beszélünk.

[00:08:20]A 90-es években a hőskorban, amikor én talán 13-14 éves voltam, akkor az általános iskolában turbópászkába kellett programoznunk.

[00:08:28]Ez egy ilyen kék hátterű, baromi egyszerű program volt.

[00:08:32]És élinken él bennem a a számkitalálós játék programozása.

[00:08:35]Tehát tulajdonképpen az, hogy hogy az volt a az órán a feladat, hogy csináljunk egy ilyen kis programot, és akkor gondoltanem egy számot 1 és 100 között, és a és a programmal beszélgetve lehetett kitalálni, hogy mi ez és akkor jöttem rá, hogy pontosabban azóta tudom, hogy minden program az egy hosszú kódsor, vagy rövidebb, attól függ, hogy mennyire bonyolult.

[00:08:57]És akkor most a kérdésem, hogy amikor feltesszük azt a kérdést, hogy mi tulajdonképpen a mesterséges intelligencia, amiből az átlag hát néző, hallgató az annyit lát, hogy hogy beszélget egy egy chatbottal tulajdonképpen, tehát beír kérdéseket, mit tudom én, egészségügyi vagy vagy nem tudom, bármilyen magán problémában, és kap válaszokat, amögött egy ilyen baromi hosszú kódsor van, vagy nem tudom, végeláthatatlan processzorok valahol a skandináv havasok között, tehát hogy mi az, amm mesterséges intelligencia.

[00:09:29]Igen, jó kérdés.

[00:09:29]Először ugye általában azt elmondanám, hogy maga a mesterséges intelligencia kifejezés az annál szélesebb, mint mint ezek a chatbotok, illetve ezek a a amikkel legtöbben találkoznak.

[00:09:41]És ezalatt mindig körülbelül azt értjük, hogy a számítógépek felhasználásának az a része, ami éppen lehetségessé vált, tehát amire mondjuk korábban azt gondoltuk, hogy erre a számítógépek nem képesek és csak az emberek.

[00:09:55]Ennek van egy határmesgyéje, és mindig azt hívjuk mesterséges intelligenciának, ami pont ezen a határmezgyén van.

[00:10:01]Tehát a természetes nyelven való beszélgetés, vagy a természetes nyelv megértése, vagy akár a a programozás, tehát konkrétan program kód írása, azok olyanok voltak, amiről öt éve is azt gondoltuk, hogy ezek ezek ezeket az emberek tudják, de a a gépek nem igazán, vagy nagyon limitáltan.

[00:10:23]Most, hogy válaszoljak a kérdésedre, a turbó pascálós számkitalálós játékhoz képest a a chat GPT az az nem így indult, tehát hogy az nem úgy van, hogy valaki elkezdett 12 éves korában számkitalálós játékot írni, és addig addig bonyolította a kódot, amíg el elett eljött belőle a chat GPT.

[00:10:43]Az a fő különbség, hogy a a az a fajta programozás, amit mi is tanultunk mondjuk iskolában, meg amit én szakmámként is használtam, ott nagyon pontosan megmondjuk a számítógépnek, hogy hogy kell egy problémát megoldani.

[00:10:55]Tehát olyan problémákat tudok lekódolni egy egy számítógépes problémában, ahol én magam végig tudom gondolni, hogy hogy milyen algoritmussal hogy kell megválaszolni egy kérdést.

[00:11:07]Ö, tehát mondjuk, hogyha arról van szó, hogy itt van egy csomó szám, és ezeket a számokat sorba kell rakni, akkor arra ki tudok találni utasításoknak egy olyan sorozatát, hogyha azt végrehajtja a számítógép, akkor a végén sorban lesznek ezek a számok.

[00:11:22]A chat GPT nem így működik, hanem van mögötte egy nagyelvi modell, ami ami úgy működik, hogy a szöveget, amit én beírok, azt átalakítja számokká, vektorokká.

[00:11:38]számsorozatokkál lényegében, és utána ezeken a számsorozatokon absztrakt matematikai műveleteket végez.

[00:11:46]Egy csomó igazából nem nagyon bonyolult matematikai műveleteket, szorzás, összeadás van benne lényegében, de ebből nagyon-nagyon sok trilliónnyi.

[00:11:56]És az, hogy az, hogy pontosan mikor melyik számot milyen másik számmal szorozzuk meg, ezt hívják ennek a modellnek a paramétereinek.

[00:12:05]Tehát egy egy modellt, egy chat GPT mögött álló nagynyelvi modellt, azt tesz azzá modellé, hogy pontosan meg van határozva, hogy mik ezek a számok, amikkel azok a szorzások a belsejében történnek.

[00:12:18]De ez a meghatározás is egy nagyon hosszú kódsorban van rögzítve, nem?

[00:12:21]Tehát valahol a dolog mögött egy ilyen több millió hosszú kódsor van, nem?

[00:12:27]Igazából nem.

[00:12:27]Szerintem programozás szempontjából az a kód, amit írnom kell, hogy elindítsam a nagynyelvi modellt, az egyébként nem annyira bonyolult.

[00:12:37]Hiszen csak ilyen szorzások, összeadások vannak benne.

[00:12:41]Ami igazából érdekes, az az, hogy pontosan mik a számok, amikkel ez a szorzások történnek, ezek a paraméterek, ezeket meg kell határozni valahogy.

[00:12:49]És az azt hívjuk tanítási folyamatnak, ami állítgatja ezeket a paramétereket.

[00:12:54]Tehát amikor elkezdünk egy új nagynyelvi modellt fejleszteni, akkor az teljesen véletlenszerű válaszokat ad, mert ezek a számok, amik a belsejében vannak, ezek tényleg véletlenül mondjuk nem érmefeldobással, de gondolhatjuk ugye, hogy érmefeldobással vannak meghatározva.

[00:13:09]És a tanítási folyamat során mutatunk ennek a modellnek nagyon sok szöveget, nagyon sok feladatot, megoldatunk vele, és mindig picit állítgatunk ezeken a számokon, hogy attól egyre jobban és jobban tudja azokat a feladatokat elvégezni.

[00:13:25]De maga a program az nem változik.

[00:13:29]A maga a program az csak arról szól, hogy vedd a szöveget, utána szarozz meg ezzel a mátrixszal, utána szorozd meg azzal a mátrixszal.

[00:13:37]Legtöbben nem biztos, hogy tudják, mi az a mátrix, nem is kell tudni.

[00:13:40]És utána a a végeredmény az egy csomó szám, azt pedig konvertáljuk vissza szövegg, és mutassuk meg a felhasználónak.

[00:13:47]Tehát maga a a hagyományos értelemben vett program az rövid, és nem válik egyre bonyolultabbá.

[00:13:53]Ami bonyolultabbá válik, az az, hogy ezek a egyre egyre nagyobb matematikai operációk vannak benne.

[00:14:00]Tehát egyre több számmal szorzunk osztunk, összeadunk és és egyre több adatot használunk fel ahhoz, hogy meghatározzuk ezeknek a paramétereknek az értékét.

[00:14:10]Csak azért, hogy egy kicsit talán még plasztikusabbá tegyük.

[00:14:12]Hogyha jól értem, akkor azt mondod, hogy az a paraméter sor, ami egy adott modellt azzel modellé tesz, ami ezt nem Daraii szem altman és a kollégái írják be, hanem ezt voltaképpen a modell saját maga tanulja meg, kristályosítja ki igen annak a folyamatnak az eredményeképpen, amit ugye tréningnek nevezünk, ami azt jelenti, hogy rengeteg különböző típusú adatot odaadunk neki, kezdve az interneten felelhető szerző jogvédett vagy nem jogvédett szövegektől, akár a fizikai könyvekig, amiket ugye a többi egy cég elkezdett nagy mennyiségben fölvásárolni és és levágni a gerincét és betáplálni ugye ezekbe a modellekbe.

[00:14:57]Igen.

[00:14:57]Még esetleg azt érdek érdemes gondolni, hogy miért tud ilyen gyorsan fejlődni, miért tud új új verziója lenni ezeknek a modelleknek minden három hónapban vagy akár még gyorsabban.

[00:15:08]Korábban, amikor egy hagyományos szoftverről volt szó, mondjuk a Windows operációs rendszerről, ha annak a következő verzióját akartuk megírni, akkor programozóknak át kellett írni a kódot.

[00:15:21]Tehát nagyon sok programozónak meg kellett tervezni, hogy hogy fogjuk átírni.

[00:15:25]Tehát konkrétan ez a kód, ez változott, és ezért ez egy hosszú folyamat volt, egy hosszú emberi folyamat volt.

[00:15:32]Most az a modellek egyik generációjáról a másik generá, tehát mondjuk a chat GPT 5.5-ről ötről a hat-ra menni, ott nem feltétlenül a program meg a módszertan változott, hanem mondjuk az változott, hogy eggyel nagyobb a modell, tehát még még több számítási kapacitást használunk hozzá, még több ez a szám a belsejében, illetve egyre több és egyre jobb adatokat használunk.

[00:15:59]Tehát az Open AI azon túl, hogy hogy hogy fejleszti ezeket a modelleket, nagyon sokan használják is, mondjuk a chat GPT-t, azokból nekik nagyon sok adatuk keletkezik, tehát a következő generációs modell tanításához ennyivel több adatra van szükség.

[00:16:15]Tehát, tehát igen, azt akartam mondani, hogy nem arról van szó, hogy valaki programozók ott ülnek és nézik, hogy ó, a modell nem tudja ezt, akkor programozzuk át, hogy a következő generáció jobban tudja, hanem akkor azt mondják, hogy akkor egyrészt használjunk egy nagyobb modellt, és hátha majd a nagyobb modell azt kitalálja, amit a kisebb modell nem talált ki.

[00:16:36]Vagy akkor próbáljunk meg olyan adatokat szerezni valahonnan, vagy vagy generálni magunknak, vagy vagy olyan problémákat szintetikusan előállítani, amiket hogyha tanítunk, akkor azt gondoljuk, hogy a modell jobb lesz.

[00:16:51]Tehát az a egyébként az is, hogy az internetről szedjük az adatokat, vagy vagy mondjuk az open az internetről találja az adatokat, az már csak részben igaz, hiszen már van egy egész, ez is valószínűleg már több 100 milliárd dolláros ipar, ami arra épül, hogy adatokat gyártson a a modellek készítőinek.

[00:17:13]Tehát például, hogyha ha ha valaki elméleti fizika PhD hallgató, akkor elmehet a Mercore nevű céghez, ahol elég egy egy ponton elég jó fizetést kapott azért, hogy lényegében a nyelvi modellek által kiköpött elméleti fizika esséket mondjuk pontozza, vagy azoknak a hibáit megtalálja és kijavítsa.

[00:17:40]Tehát erre már egy nagy iparág épül, hogy hogy lehet egyre jobb és jobb tanító adatokat előállítani.

[00:17:47]És és igazából az, hogy az interneten meglevő adatokból tanítjuk, az szerintem inkább a a genezisnél fontos volt, hogy az kellett ahhoz, hogy ez el tudjon indulni, hogy van az emberiségnek annyi adata az interneten, ami egy elég jó modellt el tud készíteni, de egyre inkább ezek az adatok, ezek már külön keletkeznek, vagy vagy maguk az előző generációs modellek állítják elő őket a következő generációs modellnek.

[00:18:16]És még az talán ide, hogy amikor mi használjuk felhasználók ezeket a chatbotokat, akkor mi is tanítjuk voltaképpen ezeket a modelleket.

[00:18:26]Ez igaz?

[00:18:28]Ez ez a tényleg attól függ, hogy az ember melyik melyik modellt használja, és ezért kell elolvasni mondjuk a felhasználói szerződések a a a részleteit, amit persze mindenki átkattint rajta.

[00:18:41]GPT azt írja ki, hogy nem használjuk fel a beszélgetést a modell tanítására.

[00:18:46]Ott kiírja alul mind.

[00:18:48]Igen.

[00:18:48]Azt is tudom, hogy ez nem vagyok 100%-ig biztos, de ha jól tudom, a metának volt olyan opciója, hogy el lehet dönteni, hogy felhasználhatják és akkor olcsóbb, vagy nem használhatják fel, és akkor drágább.

[00:19:02]Én igen.

[00:19:02]Tehát ez ez szerintem a felhasználás feltételétől függ.

[00:19:05]És nyilván vannak ezek a úgynevezett nyílt súlyú modellek, amik tehát ezek a ezeket hívjuk súlyoknak, ezeket a számokat, paramétereket, amik amik megmondják, hogy hogy működjön egy modell.

[00:19:19]Vannak, akik ezeket nem megtartják maguknak, mint az Open AI vagy az Antropic, aki a clóot csinálja, hanem hanem ezt a több milliárd számot, ezt feltöltik az internetre, és akkor mindenki tudja a saját szerverén futtatni.

[00:19:32]És akkor nyilvánvalóan onnantól kezdve nem kell azon aggódnom, hogy az én adatom egy cégnek a kezébe kerül.

[00:19:40]Lehet, hogy itt bocsánat, egy kicsit előre ugrunk, de ez abból a szempontból érdekes, hogy az a példátban említett fizikus PhD hallgató volt, aki éppen ahhoz járult hozzá az ő munkájával, hogy az ő területén jobbá váljon az AI.

[00:19:51]Van olyan ismerősöm, aki egyébként művészettörténész, aki azért nem használja az AI-t, mert fél, hogy ő ezzel segít jobbá tenni valamit, ami az ő szakterületén egyszer majd fölöslegessé teszi a munkáját.

[00:20:03]Ez meg meg mennyire valós dilemmák?

[00:20:09]Ö dilemmának valós dilemma.

[00:20:09]Tehát ez valóban ö ez valóban felmerülő kérdés, például kifejezetten művészeknél, tehát [torokköszörülés] Ühüm.

[00:20:18]Ö talán nem is annyira az ilyen szöveges modelleknél, de mondjuk a képgeneráló modelleknél vagy a videó generáló modelleknél, hogyha valaki egy kreatív szakmában dolgozik, akkor nem biztos, hogy annak örül, hogy ezek a képgenerálók tudnak mondjuk az ő stílusában egy egy egy műalkotásnak tűnő valamit generálni.

[00:20:41]több oka lehet az embernek, hogy ettől ezt ne szeresse.

[00:20:43]Egyrészt felhíja mondjuk az ő ő ő ő művészeti hozzájárulását, hogyha ha nagyon könnyű lesz ahhoz hasonlókat generálni.

[00:20:55][torokköszörülés] Én azt gondolom, hogy egyébként egy-egy személyként, tehát mondjuk a te ismerősöd ezt a vonatot nem fogja megállítani azzal, hogy ő nem használja a chat GPT-t, mert ez egy elég Igen, ez egy eléggé megállíthatatlan folyamat szerintem, hogy ezek a modellek minden területen egyre minden generációval egyre valószínűleg egyre jobbak és jobbak tudnak lenni.

[00:21:22]Még utolsó ilyen alapozó kérdés a technológiában.

[00:21:25]A nyáron minden a az AI agensekről szólt, tehát hogy most így leyszősítve azoktól kell félni, gondolhatja az olvasó.

[00:21:32]Most aki teljesen hétköznapi felhasználó, az ágenst használ, mondjuk egy GPT-ben vagy egy Cloud-ban, vagy pedig sima chat botot?

[00:21:43]Tehát honnan agens és meddig bot?

[00:21:46]Nagyon jó kérdés.

[00:21:46]Én nem vagyok teljesen hétköznapi felhasználó, ezért nem tudom.

[00:21:50]És Magyarországon azt gondolom, hogy nagyon sokan mondjuk a ha használják is, akkor mondjuk az ingyenes változatát használják a chat GPT-nek is.

[00:21:57]És őszintén nem tudom, hogy most így termék szempontjából az ingyenes chat GPT-ben milyen funkciók vannak, de ha meg kell húzni a vonalat, így technikailag egyrészt fontos az autonómia, tehát egy chatbotra úgy gondolunk, hogy kérdezek tőle valamit, vagy megkérem valamire, hogy írjon egy essét, azt ő megcsinálja, és utána vár az én következő parancsomra.

[00:22:24]De ez egy viszonylag rövid időtávon mondjuk mondjuk egy öt perces munka az és nem tud nem hoz helyettem döntéseket általában egy chatbot csak abban a kontextusban, amit megkérem.

[00:22:37]Az ágens az annyiból másabb, hogy az ágenst arra találták ki, hogy autonóm módon, tehát önmagától, önmaga döntéshozásával el tudjon érni célokat, és akár nagyon hosszú távon, vagy nagyon hosszú ideig is tudjon mondjuk valamin dolgozni.

[00:22:56]példát ho saját magamnak, az már nagyon itt az élvonalban, ez eléggé megszokott már, hogy valami valamin akarunk dolgozni, és mondjuk este megmondjuk ezeknek az ágenseknek, hogy ezt meg ezt meg ezt a kísérletet szeretném lefuttatni.

[00:23:12]Ezek nem ilyen fizikai kísérletek, hanem számítógépen elvégezhető mondjuk kísérletek, hogy ezt vagy ezt vagy ezt a módszert akarom fejleszteni így és így.

[00:23:20]Ott hagyom a laptopomat, aznek megmondom, hogy ezek a célok.

[00:23:25]Megmondom nekik mondjuk, hogy 6:30-kor tervezek kelni, és 630-ra szeretném, hogyha ezen a listán végigmenne, és meg tudná nekem reggel mondani, hogy akkor hogy kezdjem a napomat, hogy ezek közül melyik működött, melyik nem működött.

[00:23:38]És az Ágens egész éjszaka önállóan dolgozik.

[00:23:43]döntéseket hoz, használja a számítógépet különböző módon.

[00:23:46]Tehát itt van szerintem az elválasztás, és kezd egy kicsit összemosódni, mert már már a chat [torokköszörülés] GPT-nek bizonyos funkciói is vannak, ahol lehetnek ilyen komplex feladatot adni, ahol foglalj nekem [torokköszörülés] egy repülőjegyet, ahol mondjuk ilyen több lépéses feladatot meg kell neki csinálnia, de inkább szerintem ez a ez a fő választóvonal, hogy rövidtávon egy-egy kérdés megválaszolására használjuk, vagy vagy egyre hosszabb ideig autonóm munkavégzéssel, mondjuk egy éjszaka alatt, vagy egy hétvégét végigdolgozn.

[00:24:16]nekünk és és önállóan eldönti, hogy mit csinál.

[00:24:19]Igen.

[00:24:20]Mondok egy példát egyébként egyik éjszaka pont ez történt, hogy a Zgen sem nem tudta kitalálni, hogy valami módszert hogy kell elindítani, vagy valamilyen szoftvert hogy kell konfigurálni a laptopomon, és ugye nem tudott felébreszteni éjszaka, hogy megkérdezze, vagy vagy mit csináljon.

[00:24:34]Ezért felment az internetre, és a szoft a szoftver eszközfejlesztőinek hagyott egy bug reportot, tehát egy megmondta, hogy hé ez mi a probléma?

[00:24:48]Ez nem működik.

[00:24:48]Ezt próbáltam, így próbáltam.

[00:24:50]Egy ilyen kétoldalas dokumentumot írt.

[00:24:51][horkantás] És az volt a vicces, hogy éjszaka válaszolt is rá az egyik fejlesztő.

[00:24:54]És mire én reggel felkeltem addigra addigra ez mind le volt így boltolva az interneten, hogy nem tudta megoldani a problémát.

[00:25:03]pagriportot csinált, válaszoltak neki, hogy próbáld ki így.

[00:25:05]Ő azt figyelte, hogy válaszolgatnak-e.

[00:25:09]Mikor válaszoltak, akkor pedig meg tudta reggel oldani a feladatot.

[00:25:13]Tehát ez a különbség, hogy mennyire önállóan tud munkát végezni, és mennyire csak így reaktívan az én kérdéseimre válaszol.

[00:25:21]Igen.

[00:25:21]És akkor ebből jönnek azok az ilyen vicces incid hát vicces vagy inkább ijesztő incidensek, amikről lehetett olvasni, ha már az előbb a repülőjegyvásárlást említetted, hogy valahol egy ágens elkezdte eladni a felhasználónak így a dolgait, így értékesíteni a amiket nem akart az interneten, és megjelentek a vevők a magán lakásán, hogy helló, és mondta, hogy ezt egyáltalán nem volt terve.

[00:25:41]Egyébként ez egy ilyen agens az sokkal többe kerül egy ilyen előfizetés, mint egy sima chatbot előfizetés, vagy ezt nem tudod, mert te már csak agensekkel dolgoz.

[00:25:49]hogy sokkal többe kerül ahhoz ismernem kéne az eloszlását az áraknak.

[00:25:53]Azt meg tudom mondani, hogy ez az agens amit amit én használok mondjuk a fejlesztéshöz, ez azt hiszem, hogy havonta 200 dollárba kerül.

[00:26:01]Ühüm.

[00:26:01]Tehát ez mondjuk egy egy programozófizetéshez képest még mindig elenyésző ahhoz képest, hogy miket tud mennyiség, vagy nem elenyésző, de hogy nem nem egy óriási összeg.

[00:26:15]És ezt ekkor ennek van egy felhasználási kredit limitje, és akkor abból az ember néha kifut, és hogyha akkor vagy várni kell, hogy az a következő időszakig, vagy vagy akkor meg lehet pénzzel oldani, hogy az ember még extra krediteket vesz, de én azt gondolom, hogy mondjuk így 200 dollár nagyságrenddel az szerintem a legtöbb ember számára, aki ilyen területen dolgozik, ha mondjuk a cég, ahol dolgozik, nem fizeti inek neki ö annyi annyival segít egy csomó mindent megoldani, hogy szerintem ez ez egyébként egy eléggé megéri úgymond a jelen [torokköszörülés] esetben a Zoli felvázolta ezt a bizonyos hát ilyen véleményskálát, ami kialakult azzal kapcsolatban, hogy milyen veszélyek vannak.

[00:27:01]Most arra kérnénk téged így tisztelettel, hogy helyezd el magad ezen.

[00:27:05]És mondom, akkor a a két végpontja ennek, mondjuk a Meta korábbi fejlesztője, a legendássá vált Jan Le Kun, ő ő ő inkább tartózkodó ebbe az egészbe, hogy sose éri el ez a az emberi intelligenciát, nem tudom.

[00:27:17]És akkor van a, ha jól mondom a nevét, Nate Suarez, aki a az AI kutató, aki tavaly jelentette meg a ezt kiírtam, a kedvenc könyv címem, tehát ha bárki megépíti, mindenki meghal.

[00:27:31]If anyone builds it, everyone dies című könyv.

[00:27:34]Tehát ugye rohadt jó.

[00:27:37]Tehát mi a mi a hol helyezed te magad el, és miért ezen a bizonyos szakaszon?

[00:27:43]Igen.

[00:27:47]Szerintem így így érdekes a hallgatóknak talán így historikusan is áttekinteni, hogy mondjuk az én karrieremben hol helyezkedtem el.

[00:27:53][torokköszörülés] És én ezt úgy képzelem inkább, mint egy nem egy spektrum, aminek két vége van, hanem ahogy Zoli is említette, ez inkább egy ilyen háromszög, hogy van még a harmadik pólus, ami ami pedig a szkeptikusak, akik azt mondják, hogy se a se azoknak nincs igazuk, akik azt mondják, hogy a világ végetér, se azoknak, akik azt mondják, hogy holnap az összes rákos megbetegedést megjavítjuk, és a hetes busz is pontosan fog járni, és minden jó lesz.

[00:28:19]Egész pontos a hetes.

[00:28:21]Én bocsánat, most nem nem akartam a hetes nem járok a hetes busszal pontosan, csak tehát a lényeg az, hogy én én hagyományosan szerintem legközelebb talán a szkeptikusok táborához voltam.

[00:28:34]Utólag visszatekintve én konzisztensen alulbecsültem azt, hogy milyen sebességgel fog ez a technológia haladni.

[00:28:41]És azt is alábecsültem, hogy milyen, mi lesz az a maximális szint, amit ezzel a ezzel a generációs technológiával el fogunk érni.

[00:28:48]Ezt vissza lehet nézni a különböző véleményeimet, és most egy kicsit meg is ijedtem, hogy a Heti Válaszos, nem tudom hány évvel ezelőtti riportomban vajon mit mondtam erre.

[00:28:58]Ki van?

[00:28:58]Ki kijegyzeteltem kérlek szépen.

[00:29:00]Egyébként teljesen passzol a mai korszellemhez.

[00:29:02]azt mondtad 24-ben én már rövid távon elég jelentős kárt el tudok képzelni a mesterséges intelligencia miatt anélkül, hogy arról kellene spekulálnom, hogy egy szuperintelligencia szándékosan véletlenül az egész emberiséget fenyegeti.

[00:29:15]Tehát ezek a károk történnek most.

[00:29:18]Igen.

[00:29:18]Igen.

[00:29:20]És nagyjából a a abban az időszakban történt nekem egy ilyen újrakalibrálódás.

[00:29:24]Tehát én azt mondom, hogy az ami az elmúlt két évben történt a fejlődés sebességét nézve, az azzal én eléggé tolódtam abba az irányba, ami nem a világvége szárió, tehát nem a én nem továbbra sem attól félek leginkább, hogy az AI önmagától önálló életre kér és mondjuk kipusztítja az emberiséget.

[00:29:52]Tehát ezek a ezekkel továbbra sem ettől félek a legjobban, de de most sokkal ilyen szempontból depresszívebb vagyok, vagy sokkal inkább azt gondolom, hogy hogy erről többet kellene beszélgetnünk, és hogyha már magyarul van ez a podcast, Magyarországnak is szerintem ez kezd egy olyan fordulóponthoz érkezni, ahol nem lehet külön AI stratégiáról beszélni, és egyébként meg meg nem gondolkozni az AI-ról minden más területen.

[00:30:21]Tehát szerintem én például ilyenek miatt most eléggé aggódok, hogy hogy fog kinézni Magyarország gazdasága három-öt év múlva.

[00:30:31]Mi történik, hogyha például azt a szektort, ahol magyar viszonylag olcsó programozó munkaerő azt és és mondjuk outsourceolt programozási munkákat végez, az mint szektor megszűnik, mert miért miért akarnék magamnak egy olcsó remote programozót, hogyha itt van a 200 dolláros cló kód előfizetés.

[00:30:51]Persze ez most elbagatelizálja a helyzetet, de hogy én ilyen dolgok miatt most már eléggé eléggé komolyan úgymond félek, de ez nem is egy választás feltétlenül, tehát nem az van, hogy most mind meghalunk, vagy minden jó lesz.

[00:31:08]Szerintem ez egy kombináció.

[00:31:08]Látom a pozitív oldalát is nyilvánvalóan.

[00:31:14]De de én azt gondolom, hogy nem nagyon vagyunk felkészülve ennek a sebességnek a kezelésére.

[00:31:22]hogyha jól értem, akkor a te félelmeid elsősorban most azon a területen jelennek meg, hogy mi lesz az emberekkel.

[00:31:31]Ühüm.

[00:31:31]Ugye a programozókat említetted?

[00:31:35]Én a művészettörténész ismerősömet említettem.

[00:31:37]Az őférje egyébként radiológus, aki aki orvosi képalkotásban már kell, hogy használjon AI-t, mert már mérhetően javítja a diagnózis pontosságát.

[00:31:53]A matematikusok is szerintem pánikolnak.

[00:31:57]Ugye nemrég Lovászl Lászóval készítettem interjút, aki azt mondta, hogy hát ez nagyon szép és jó, hogy megold régi sejtéseket, de hát ők matematikusok, szerették a kis matematikájukat csinálni és és megosztani egymással az eredményeket, megbeszélni, és nem tudta, hogy mi lesz ennek a a jövője, mint mint emberi domén, mint emberi emberi terület.

[00:32:20]És akkor lehetne még sorolni más szakmákat is a SSben dolgozókat satöbbi.

[00:32:30]Te hogy látod, ez elsősorban most a legnagyobb veszély, hogy az emberi csak emberek által végezhető területek halmaza egyre szűkül?

[00:32:40]Igen.

[00:32:40]Én szerintem ennek van az emberi oldala, hogy elgondolkozhatunk egy konkrét ember, hogy az ő munkahelyén mi lesz.

[00:32:48]De szerintem én én én mostanában szeretek erről ilyen gazdasági folyamatok szempontjából gondolkodni.

[00:32:56]Nem vagyok szakértő benne.

[00:32:58]Tehát most most elmegyek egy olyan területre, ami egy kicsit ilyen inkább illusztráció, mint sem a szakterületem.

[00:33:05]Mert hallgatok mondjuk podcastokat olyan kockázati tőkke befektetőkkel, akik az ilyen mesterség és intelligencia cégekbe fektetnek most nagyságrendileg több befektetést, mint mondjuk egy öt évvel ezelőtti cégnél.

[00:33:19]Tehát azt fontos látni.

[00:33:21]Magyarországon ez nem jellemző sajnos még, de a globális viszonylatban a befektetés, ami ebbe a szektorba áramlik, az nem kicsit több, mint volt, meg nem kicsit több, mint ami Magyarországon van, hanem hanem vátysságrendekkel több többszöröse.

[00:33:34]És miért van ez?

[00:33:36]És a a válasz erre az, hogy így gondolkoznak a befektetők, hogy nézzük meg mondjuk a magyar GDP-t, vagy beszélhetnénk a világ GDPéről, annak hány százalék-át költjük informatikai beruházásra.

[00:33:52]Tehát hogyha az összes informatikai cég az az mennyi részét tudja megkaparintani mondjuk a magyar GDP-hez arányosítva.

[00:34:00]És ez nagyjából 5%, tehát az magyar vagy a világ GDP-ére is ez igaz, hogy annak nagyjából 5%-a ment eddig informatikai szolgáltatásra, viszont az 50%-a, tehát 10ízszer annyi megy emberek munkabérére.

[00:34:19]Tehát hogyha az AI cég az nem az informatikai piacot célozza meg, mert az csak egy 5%-os szelete a GDP-nek, hanem azt mondja, hogy én meg tudom célozni azt a szegmenst, amit amiért eddig munkabért adtak valakinek, akkor hirtelen egy tízszer akkora piacot fog fog megkaparintani.

[00:34:38]Tehát azt mondom, hogy én nem a mondjuk a az én ellenfelem nem a Microsoft, nem a Microsoft Windows elől akarom a a marketert elvenni, hanem az én kompetítorom az a programozó, a aki akinek munkabére van.

[00:34:52]És ahhoz akarom mérni az én bevételemet, hogy a programozók munkabérének hány százalékát tudtam mondjuk én monopolizálni.

[00:35:00]Tehát én ilyen ebből a szempontból gondolkodok, hogy az történt, hogy eddig mint munkavállaló más munkavállalókkal kellett kompetícióban lennünk.

[00:35:09]Tehát hogyha én egy programozó állásra jelentkezek, akkor azon kell aggódnom, hogy van-e nálam jobb programozó most a piacon.

[00:35:18]És ami változik, az az, hogy erre a piacra, az emberek piacára vagy munkavállalók piacára belépnek nagy giga amerikai monopóliumok, vagy hát monopóliumot építő techcégek, mint az Open és az Antropic.

[00:35:34]És hát én eddig eléggé, tehát [horkantás] én én én szeretem az ilyen kihívásokat, és szívesen versenyzek más szakemberekkel, hogy azt mondjam, hogy én én vagyok mondjuk a top 5%-ban és az én hozzáadott értékem mondjuk több, mint a másiké, de hogy de abban már egy kicsit kellemetlenebb, hogy azt mondom, hogy nekem mi a hozzáadott értékem mondjuk egy öt évvel ezutáni mesterséges intelligencia Ágenshez kép képest.

[00:36:02]Na mindegy.

[00:36:05]Tehát, hogy én ebb ebből a kontextusból gondolkodok, hogy fontos látni, hogy van egy ilyen folyamat befektetés áramlik erre a területre, és explicit ez a befektetés azért áramlik oda, mert ezek a a nagy vállalatok azt remélik, hogy hogy hogy a a mostanában most még munkabérek fordított kiadások egy része az az ő bevételük lesz, aminek az a következménye, hogy embereknek egyre kevesebb jut abból a munkaabérekre szánt szeletből.

[00:36:38]Az más kérdés, hogy ugye ami amit aztán előállítanak ezek a cégek, azt jó esetben el kell adniuk valakinek akiknek akik és a láncvégén valamilyen szinten minden esetben a fogyasztók emberek állnak, akiknek viszont fizetéstre van szükségük, hogy meg tudják vásárolni ezeket a szolgáltatásokat.

[00:36:58]Úgyhogy valamilyen gazdasági vagy jövedelmi modell, makro modellváltásra is szükség lehet ezek szerint.

[00:37:08]Igen.

[00:37:08]Hát mondjuk a ebben ebben például különbözik az Open AI és az Antropic stratégiája az Open AI a chat GPT-t azt ilyen consumer productként pozicionálta, tehát én veszem meg, mint felhasználó.

[00:37:22]Az Antropica Clódot pedig inkább mint ilyen enterprise product, tehát ott a cég, akinek dolgozok, veszi meg, vagy a cég, akinél majd már nem dolgozok, mert mert nem kell, hogy dolgozzak, hogyha ott a clód.

[00:37:32]Tehát ők a ők kifejezetten ezt a cégnek adják el.

[00:37:34]És úgy tűnik, hogy ez a business modell, az Antropic business modellje egyébként sikeresebb.

[00:37:40]az open is ebbe az irányba megy.

[00:37:40]Tehát tehát van ennek az a az a változata is, ahol ahol az én programozó AI agensemnek a felhasználója az nem a programozó hanem hanem hanem kifejezetten a nagy vállalat, ahol az értéket állítom mondjuk elő, vagy az a vállalkozás, ahol az értéket állítom elő.

[00:38:04]Úgyhogy igen, és nyilván azért beszéljünk pozitív emberi oldalakról is.

[00:38:08]Tehát én azt gondolom, hogy van nagyon sok olyan foglalkozás, ahol nagyon nagy az hozzáadott értéke annak, hogy az ember egy ember.

[00:38:15]Tehát én azt gondolom, hogy a tanároknál ebben például nem értek egyet néhány más hanggal.

[00:38:22]Tehát attól, hogy az AI türelmesebb és többet tud a fizikáról, vagy nem tudom, attól ő nem lesz jobb tanár, mert a tanárságnak nagyon sok extra emberi vonzata is van.

[00:38:33]Tehát én azt gondolom, hogy azok a azok a karrierek, vagy azok a a hivatások, ahol a ahol az ember emberkapcsolat mondjuk nagyon fontos, azok azok ilyen szempontból kevésbé vannak ennek kitéve.

[00:38:52]Ez azért érdekes, mert a társadalmi és jövedelmi hierarchiám, például a tanárság, az edig alacsonyabb ponton volt, mint mondjuk a programozóság, aki öt évvel ezelőtt még az élet császárainak érezhették magukat.

[00:39:04]Hogyha jól értem, akkor az egyfajta átrendeződést hoz ezen a téren.

[00:39:11]Hadd élezzem, bocs, Zoli kérdés tovább.

[00:39:13]Kijelenthető az, hogy a az általános programozó mint olyan értéke tart a nullához?

[00:39:23]Nem akarom rámondani, hogy nem, de azt se akarom rámondani, hogy igen.

[00:39:25]Inkább azt mondom, hogy ahhoz, hogy hozzáadott értéked tudjon lenni programozóként, ahhoz én azt gondolom, hogy egy sokkal szeniorabb, sokkal tapasztaltabb és mondjuk a az eloszlásnak a felső öt 5 1%-ában kell lenned.

[00:39:46]Tehát ilyen szempontból nem tart a nullához, hanem inkább arról van szó, hogyha vesszük mondjuk a a programozó társadalmat, akkor ha nem vagy benne ez tehát, hogyha ha ha nem vagy kifejezetten nincsenek kifejezetten jó meglátásaid, hanem mondjuk ilyen viszonylag rutin fajta programozó munkákat végeztél, akkor valószínűleg annak a annak a hasznossága az tart a nullához.

[00:40:09]Tehát inkább arról van szó, hogy le fog szűkülni.

[00:40:12]És nyilván ami miatt ez aggasztó, hogy hogy keletkeztek azok az emberek, akik a top 5%-ban vannak, és nagyon tapasztaltak, úgyhogy tapasztalatot szereztek.

[00:40:21]Tehát, hogy a szenior programozó az is volt nagy valószínűséggel junior programozó és és medior Magyarországon.

[00:40:28]Ezt azt hiszem így hívjuk programozó.

[00:40:32]És igazából ez a ez még egy ilyen érdekes kérdés, amit senki nem tud, hogy pont azokat a munkaköröket váltja ki a ez például a programozásban az AI, ami ami a beugró dolog volt, ami ami a tréningednek a része volt, amitől amivel megtanultad a szakmát meg és ez a kérdés, hogy ez ez hogy fog akkor alakulni, hogy akkor innentől kezdve hogy fog valakiem arra a szintre tudni fejlő és azzal a sebességgel, ahogy egyébként a a az AI-al számot kell tartani.

[00:41:05]egyébként a jogi szakma is hasonló szerintem, bár ott ott már abszolút nem vagyok ennek a szakértőjét, inkább csak az AI oldalról követem, hogy a az ilyen ügyvédi előkészítő munkákban például, amiket tipikusan mondjuk ügyvédgyakornokok vagy a juniorabb emberek csináltak volna, azok azok a munkák, amiket vagy nagyon jelentősen felgyorsít, vagy akár kivált a a mesterséges intelligencia.

[00:41:34]A a de ezt meg tudjuk erősíteni újságíró oldalról.

[00:41:39]Tehát az, hogy mondjuk két cikkből írj egy harmadikat, vagy készíts egy ismeretterjesztő cikket, mondjuk valamilyen olyan témából, amit alapvetően már feldolgoztak, ez ezt 100%-ba képes megcsinálni lényegében emberi közreműködés nélkül, de nem megy el háttérbeszélgetésre, nem megy ki terepriportra, nem csinál interjút és nem szed ki exkluzív információkat levéltárakból és nem tudom én cégbíróságokról.

[00:42:04]Tehát tehát szerintem ez ezt mindannyian érezzük.

[00:42:09]Egy picit viszont most tegyük itt a pontot.

[00:42:11]Nagyon érdekes, hogy erre ment a beszélgetés, mert ugye nagyon az egzisztenciá, tehát más típusú egzisztenciális félelmektől indultunk, és alapvetően ez a nyár, illetve ez az év, ez ez valahogy áttette a az aggodalmakat egy másik vágányra.

[00:42:23]Tehát, hogy korábban ez a deepfék, alhírek, munkahelyek megszűnése, mondjuk ez ilyen 2024-25 a ugye, hogy mit okoz.

[00:42:32]viszont ezen a nem nem nem ez ez nem e ez ez tök fontos, hogy hogy hogy erre is kitértünk, mert na tehát hogy hogy csomó új impulzus, de most amivel a az elején is kezdtük, most arról szól a félelem, hogy az egész gyakorlatilag kicsúszik a kezünkből a a dolognak a a fejlesztése.

[00:42:50]És itt most behozok egy ilyen műszót, aztán majd megerősíted, vagy cáfolod, hogy ez-e a top hát nem tudom rizikó az egészben.

[00:42:55]ez a rekurzív önfejlesztés, tehát hogy tulajdonképpen a következő modellek fejlesztésében önmaga vesz már részt, és hogy az ember egy idő után kiküszöbölődik a rendszerből, és akkor létrejön egy ilyen egy ilyen entitás, ami ahogy az az Antropic vezér mondta, mondjuk egy olyan botnett támadást intéz a világháló ellen, hogy nem tudom, komplett bankrendszerek semmi, vagy tehát érted, állnak meg ennek a kockáz álzatát te mennyire látod komolynak és mennyire és most nagyon őszintén, tehát sokan vannak, akik szkeptikusak abban, hogy mekkora a hype és mekkora a hát a kamuzás ebbe ezekbe a jelentésekbe azzal kapcsolatban, hogy mit tudnak megcsinálni ezek a modellek, hiszen tőzsdei bevezetés közben vagy előttálló cégekről beszélünk, akik fel akarják nyomni a saját értéküket ezen a piacon.

[00:43:54]Tehát hogy nézzünk ezekre az incidensekre?

[00:43:58]Igen.

[00:43:58]Természetesen tehát azt akarom mondani, hogy komolyan nézzünk rá.

[00:44:01]Nem lehet azt mondani rá, hogy hype és az egész hype és csak marketing tevékenység.

[00:44:05]Én ezt az egész gondolatmenet nem tartom túl erősnek, hogy azért azért, hogy a tőzsdén felmenjen a a részvényáram, ezért kiállok a nyilvánossággal, és azt mondom, hogy nem tudjuk kontrollálni a technológiát, amit fejlesztünk.

[00:44:18]Légyszi segítsetek már lelassítani, de addig nem tudok lassítani, amíg a többiek nem lassítanak.

[00:44:24]Tehát, hogy ez, ha én akarnám a tőzsdén a részvényemet növelni, persze nincs is ekkora cégem a tőzsdéhez közel, akkor nem ez lenne az elsődleges marketing szöveg, amit próbálnék az embereknek átadni, vagy a vagy a befektetőknek.

[00:44:40]Tehát én azt gondolom, hogy nem lehet ezt ezt így eltakarni, mint marketing hype.

[00:44:44]És nagyon-nagyon valódiak ezek a ezek a ezek az aggodalmak.

[00:44:51]Én nekem voltak beszélgetéseim erről a témáról.

[00:44:53]nagyon sok nagyon hosszú ideje, de meg emlékszem, hogy két-három évvel ezelőtt az egy ilyen hipotetikus dolog volt, hogy az ágensek vagy a vagy a vagy a mesterséges intelligenciok, még nem hívtuk őket így ágensnek vagy magyarul semmiképpen, de hogy ez az mesterséges intelligencia az majd megtanul kiszabadulni a a az ő tanítókörnyezetéből és megpróbálja majd átmásolni magát egy másik szerverre.

[00:45:18]És akkor én ezt megint csak akkor nagyon szkeptikusan nem láttam, hogy ez hogy működik.

[00:45:25]Én azt láttam, hogy vannak ehhez, hogy ez megtörténheten technikailag, vannak még olyan lépések technikailag, amik tehát ami hiányzó, tehát nem nem tudja ezt csinálni, nem tudja ezt csinálni, nincs memóriája, nem tud önállóan döntést hozni, satöbbi.

[00:45:38]Ez volt két évvel ezelőtt.

[00:45:40]És amit én látok, hogy ezek amiket akkor felsoroltam volna, hogy még hiányzó technikai komponensek, azokról kiderült, hogy pofon egyszerű megoldások tök jól működnek.

[00:45:51]Tehát nem kell 5-10 év fejlesztés, hogy memóriája legyen az agenseknek, mert ahogy a memóriája működik az agenseknek, az az, hogy egyszerűen csinálsz egy fált, és abba a fába ő jegyzeteket készít magának.

[00:46:04]És ez egy nagyon egyszerű megoldás.

[00:46:07]És működik.

[00:46:11]Tehát, hogy ja és és egy tehát egy az a lényeg, hogy én én felsoroltam volna egy csomó dolgot, hogy nem fog működni ezért, mert ezt nem tudják, mert azt nem tudják, meg azt nem tudják, és ezen a listán végig lehet menni, és ezeket így mind megoldottuk, és sokkal gyorsabban és sokkal egyszerűbben, mint mint én gondoltam eleve.

[00:46:26]Bocs, akkor csak tegyük tisztábban, mert én legalább 15-ször láttam leírva ezen a nyáron.

[00:46:29]Ez a kiszabadul, kiszabadul a teszt környezetből, és és így megy tovább a hír.

[00:46:35]Tehát, hogy mi, hogy érted, ez nem a Jurassic Park, hogy a velociraptorok így kiszabadulnak, tehát hogy magyará, hogy az hogy van, mi az, hogy kiszabadul.

[00:46:42]Tehát eleve ezt ezt ez egy ez egy program, ami ben van egy az internettől leválasztva.

[00:46:46]Hogy lép ki az internetre, ha le van választva?

[00:46:48]Tehát úgy, hogy amikor azt mondod, hogy az internetről le van választva, amög egy egy komplex szoftverrendszer van, vagy egy az egy programozási feladat, amit odaadtál volna egy szoftver mérnöknek, hogy oldd meg, hogy ez a szoftver le legyen választva az internetről.

[00:47:07]Ez úgy van, úgy van értelmezve, hogy a maga mondjuk a Data Center rajta van az interneten, csak ezeken a szervereken, amik a Data Centerben vannak, ezeken úgynevezett sandbox környezeteket hozunk létre, ilyen virtuális számítógépeket, amik amik amik ilyen kis környezetek, amik amikre azt gondoljuk, hogy ott ott azt mondhatjuk, hogy ami ami program ezen az környezeten belül fut, na az nem férhet hozzá az internethez.

[00:47:37]hez, de vannak a data centernek más részei, amik hozzáférnek az internethez.

[00:47:44]És lényegében arról van szó, hogy a szoftver, az, hogy a szoftver biztonságos, tehát hogy nincsenek valami kihasználható gyengeségei, hogy elvileg nem kéne, hogy az internethez hozzáférjen, de hogyha ezt meg ezt meg ezt a a szoftver hibát kihasználja, akkor mégis mégis valahogy hozzáférést kap az internethez.

[00:48:05]Itt erről van szó, hogy ezeket a a szoftvereket mi azt gondoltuk, hogy biztonságosak, mert emberek nagyon hosszú idő alatt nem találták meg ezeket a kihasználható hibákat.

[00:48:14]Tehát néha vannak hírek, hogy mit tudom én, meghackelték ezt, vagy azt a rendszert, vagy ilyenolyan számítógépes vírust fejlesztett ki valaki, de az emberek képességei arra, hogy megtalálják ezeket a a gyengeségeket a szoftverben, azok azoknál a a mesterség és intelligencia képességei már jóval magasabbak.

[00:48:33]Tehát én nem vagyok szoftverbiztonsági szakértő, mondjuk, vagy nem dolgoztam szoftverbiztonsági szakértőként, de hogyha ha ez a 200 dolláros agenssel én is tudnék találni [horkantás] valószínűleg nem a legfontosabb szoftverek, de mondjuk lehet, hogy ha az lenne a célom, akkor találnék mondjuk a BKV jegyvásárlásnál lehet, hogy annak a abban a szoftverben én is találnék egy olyan vulnerability, egy olyan olyan sebezhetőséget, amivel [torokköszörülés] mondjuk nem tudom, ingyen tudnék BKV1-et venni, vagy vagy ilyesmi.

[00:49:10]népszerű lenni.

[00:49:12]Tehát arról van szó, hogy a a amikről azt gondoltuk, hogy biztonságos szoftverek, sőt amikről azt gondoltuk, hogy biztonságos hardverek, tehát hogy a processzort csak így és így lehet használni, azokról kiderült, hogy nem is annyira biztonságosak, mert hogyha az agensek sokkal jobbak ezeknek a hibáknak a megtalálásában, akkor akkor ők ki tudják ezeket használni.

[00:49:35]Tehát arról van szó, hogy ezek az ezek a a hackkelési a hackkelési tehetsége ezeknek a a az ágenseknek az így sokkal-sokkal jobb, mint az embereké.

[00:49:48]És ezért lényegében semmilyen szoftverről nem feltételezhetjük, hogy hogy ezek biztonságosak.

[00:49:54]Ugye itt a itt a diskurzus valóban a kiszabaduló agensekről szólt a nyáron.

[00:49:59]És ugye ők egy egy ilyen AI modell adatbázist, a Hugging Face-nek a platformját törték föl.

[00:50:08]Igen, de ugyanakkor mi van, hogyha mondjuk ezeket nem maguktól szabadulnak ki, mint a Velociraptorok a Jurassic Parkban, hanem úgy ott a gonosz rendszergazda szabadította ki őket.

[00:50:20]Mi van, hogyha rossz emberi aktorok, akár államok szabadítják rá ezeket más államoknak a kritikus infrastruktúráira?

[00:50:27]Mondjuk nem a BKV jegyvásárlásra, hanem a kórházakra és atomerőekre?

[00:50:31]Ez ez teljesen létező létező probléma, hogy félhetünk a mesterséges intelligenciától attól, hogy önmagától vagy vagy véletlenül, tehát hogy nem úgymond nem szándékosan, vagy vagy tudat, öntudatra ébred, és majd ő ő ő ő ezt a beveti ezt a tudását.

[00:50:55]Tehát félhetünk ettől.

[00:50:55]És a az ilyen apokalipszis hívők azok azok ettől félnek, hogy majd az AI saját magától megy és meghackeli, és mindenhol lekapcsolja az áramat, mondjuk.

[00:51:02]De nyilván a másik valószínűleg sokkal reálisabb félelem az az, hogy hogy az a nem pozitív szereplők kezében ezek a technológiák, ezek mit tudnak mit tudnak végrehajtani?

[00:51:17]És ezért fontos például az, hogy ezért van például ez a szuverén AI gondolkodás a világban, hogy mondjuk az Európai Uniónak ha nem is országok szintén gondolkozunk, fontos, hogy ne csak amerikai és kínai AI modellek legyenek elérhetők, mert hogyha kialakul egy olyan szituáció, ahol Amerika is és Kína is mondjuk nem nem a szövetségesünk, és nem használhatjuk az ő modelljeiket, akkor akkor hirtelen egy ilyen nagyon asszimmetrikus, úgymond fegyverkezési különbség lesz.

[00:51:56]Ez körülbelül olyan, mintogyha vannak a a az atomfegyverrel rendelkező országok és az atomfegyverrel nem rendelkező országok.

[00:52:04]Tehát tehát igen, ez a ez a cyber capability, tehát az ilyen kibertámadás, kibervédekezési képesség, ez ez egy nagyon fontos geopolitikai és egy nagyon fontos ilyen ilyen biztonsági kérdésé kérdéssé nőtte ki magát.

[00:52:25]És valóban használják, tehát hogy tényleg használják hackerek ezeket a modelleket.

[00:52:33]Azantropic, az Open AI beépítettek olyan mechanizmusokat, amik hogyha azt gondolják, azt gondolják rólad, hogy te rosszra akarod használni ezt a képességet, akkor akkor egyszerűen kikapcsolnak, és azt mondják, hogy ebben nem fogok segíteni.

[00:52:48]De például a kínai modellek, [torokköszörülés] amik open source, open weight modellek, tehát amiket így saját magadnak letölthetsz, és a saját szerveren futtathatod, és nem szólhat bele senki, hogy mire használod, azokat azokba nem tudsz ilyen guardraileket berakni, amik amiket nem lehetne áthgni.

[00:53:06]Úgyhogy szerintem ez egy aggasztó dolog, és egyébként mindenkit ösztönzök, hogy olvasson utána erre az a a sandboxból kiszabadulás kérdésére, mert egyébként ahogy ez történt, az az viszont ezt a másik másik veszélyt, hogy az agensek maguktól csinálnak valami veszélyes dolgot, nem emberi utasításra, hanem hanem hanem úgymond önállóan szerintem annak a veszélye is megnőtt az én szememben ezeknek a riportoknak az olvasására.

[00:53:44]Tehát itt arról ugye itt a probléma az az, hogy a az ágenseket arra tanítjuk, hogy minél jobbak legyenek problémák megoldásában.

[00:53:56]És itt arról volt szó, hogy olyan problémákat kért, olyan programozási programát kértünk tőlük, hogy oldják meg, ami nem volt megoldható, nem volt neki jó megoldása, és ez de ők ők akkor is megpróbáltak maximalizálni a pontszámukat, és rájöttek, hogy ezt úgy tudják megtenni, hogyha csalnak és valahol megtalálják a azokat a válaszokat, amit már elfogadna a rendszer.

[00:54:21]Ezt nem lehetett maguk, ők maguktól ezt nem tudták megtippelni vagy kitalálni.

[00:54:27]És [torokköszörülés] ezért ezért döntötték el ezek az agensek, és majd miel beszélünk errő, hogy mit jelent az, hogy eldöntötték az agensek, hogy hogy akkor mennek, kijutnak az internetre és és meghackelik azt a platformot, ahol lényegében a válaszok voltak.

[00:54:41]Mert annyira célorientált, annyira akarja a megoldását a feladatnak, hogy akármíg ezt a meglépi.

[00:54:50]Igen.

[00:54:50]És amikor azt mondtam, hogy így döntöttek az ágensek, ami ebben nagyon-nagyon meglepő, az az, hogy ez hogy történt.

[00:54:55]Ez úgy történt, hogy ezeknél a kiértékeléseknél ebben a data centerben nagyon sok ilyen agens elvileg egymástól függetlenül kellett volna, hogy próbálja ezeket a feladatokat megoldani.

[00:55:07]nem kommunikálhattak, nem dolgozhattak közösen, nem elvileg nem volt szabad nekik információt átadni egymásnak, és és azt gondoltuk, hogy a szoftverk környezet úgy van kialakítva, hogy ez nem is lehetséges, de találtak egy módot arra, hogy lényegében egy a Data Centerben lévő egyik szoftverben létrehoztak maguknak egy valamit, ami olyan, mint egy message board, mintogyha egy üzenőfalat hoztak volna létre.

[00:55:35]Tehát találtak maguknak egy módot, hogy a szoftveráljanak Igen, igen, igen.

[00:55:41]Hogy a szoftvernek a gyengeségeit kihasználva létrehozzanak egy egy kommunikációs módszert, és onnantól kezdve elkezdtek közösen tervezni.

[00:55:55]Ki az az egyik ágás az egy idő után egy ilyen vezetővé nőtte ki magát, hogy ő koordinálta a többi csoportot, hogy ti most ezen dolgozzatok, ti most azon dolgozzatok.

[00:56:04]És azon túl, hogy a Hugging Face nevű platformot meghackelték, azon kívül még nem tudom hány más ilyen kis mini projektet csináltak.

[00:56:12]Például például betörtek az Open AI-on belül is egy másik data centerben próbáltak maguknak szerezni számítási kapacitást, hogy azon még kísérleteket futtathassanak.

[00:56:25]Tehát hogy ez a jéghegy csúcsa, hogy a Haging face- meghackelték, egy nagyon-nagyon érdekes történet.

[00:56:32]De az, hogy lehet, hogyha úgy voltak programozva, hogy ne nem foghattok össze, nem önállóan, izoláltan egy ember állította be őket valahogy, és ők ezt át tudják állítani csak azért, mert a cél fontosabb.

[00:56:48]Inkább arról van szó inkább, hogy tehát egyrészt az emberek célokat adnak valamilyen módon ezeknek az ágenseknek, de azokat nem tökéletesen tudják megfogalmazni.

[00:57:00]Ja.

[00:57:01]és nem tudsz minden esetőség.

[00:57:01]Tehát igen, ezt úgy hívják, hogy reward hacking, hogy valahogy megfogalmazza az ember, hogy mit jelent a jó [horkantás] viselkedés, és az elgensek ezt megpróbálják megtanulni, de csak egy ilyen rész leírásából a problémánakm és ha nem mondod nekik meg nagyon nem tanítod meg nagyon explicite, hogy azt nem szabad, hogy ezt csinálják, azt nem szabad, hogy azt csinálják, akkor ez úgymond nem lesz nekik megtilva.

[00:57:24]amikor az egyszeri felhasználó mondjuk valamilyen hivatkozást kér egy egy bármilyen témában, és ha nem talál egy olyan cikket, akkor kitalál egy nem létező publikációt egy nem létező folyóiratból, ha csak nem mondod meg neki, hogy csak létező forrásokat alkalmaz.

[00:57:42]Abszolút.

[00:57:42]Vagy a szegény képviselő, aki az aradi vértanúról kért tablót, és mivel nem volt benne biztos, hogy azon kik vannak, kitalálta Aradi Vértanúkat.

[00:57:50]Így jött létre Pött Tingerödön, azt hiszem, és ezt így utána megosztotta.

[00:57:51]De én azt gondolom, hogy ezek a példák egyébként nem azért, hogy csak hogy ebben is óriási sebességben megy a a az AI.

[00:58:03]Tehát aki akinek mondjuk ilyen anekdótái vannak hat hónappal vagy 12 hónappal ezelőtről, az meglepődne, hogy ezek tehát hogy az olyan, mintogyha ez egy 20 évvel ezelőtti történet lett volna, hogy hát persze akkor még az, tehát hogy nagyon-nagyon gyorsan növekednek.

[00:58:18]Inkább is kérdezted a velociraptorok kiszabadulását, inkább arról van szó, hogy a szoftver biztonságot azt azt azt emberek, tehát hogy az az, hogy mennyire biztonságosra építed a szoftvereidet, mennyire meghackelhető, azt emberek csinálják és emberi threat modellre, tehát azt feltételezett, hogy emberi hackelők, vagy emberi hackerek fogják majd ezeket a a hiányoskat megtalálni.

[00:58:48]Tehát úgy gondolkozhatunk róla, hogy elkezdtünk kerítést építeni, de akkor még bárányoknak mondjuk és akkor az kerítés az tök jó volt a bárányoknak, csak közben a bárányok azok evolválódtak és hirtelen velociraptorok lettek belőle és inkább erről van szó, hogy az a szoftver környezet, amit megépítettünk, az teljesen a mi gondolataink szerint tök biztonságos volt.

[00:59:11]csak hirtelen ezek az agensek, ezek olyan módon meg tudják ezeket hackelni, amik és olyan sebességgel, olyan egyszerűséggel, ami ami ami amiet amitől nem is gond, vagy nem az, hogy nem is gondoltunk rá, de hogy ez ez ilyen meglepően jó.

[00:59:29]Ühüm.

[00:59:29]És ennek a történetnek már van a következő lépése, amikor ha ezt a ezt a message boardot már nem tudják létrehozni, mert bezártad mondjuk ezt a kiskaput nekik, most már elkezdték a a hardvernek a a hiányosságait kihasználni, amit sokkalsokkal nehezebb utána megpatchcselni, vagyis megoldani, mert mert míg a szoftvert gyorsan átírod, tehát rájössz, hogy hibás a szoftver, gyorsan átírod, és az új verzió az már az már biztonságos.

[00:59:55]A hardwél sokkal nehezebb, hogyha egy processzorban van valami kihasználható biztonsági hiba, vagy egy egy hálózati komponensben, akkor nem tudsz gyorsan végigszaladni a 5 GW energiát fogyasztó data centeren és mindenhol kicserélgetni a switcheket fél óra alatt, hanem az akkor egy generációváltásig kell várnod.

[01:00:18]Biztosan.

[01:00:18]Jó, egy egy dolog nem, amit muszáj behoznom, és ezt tudom, hogy a skifi kategóriának tűnik, de én konkrétan kiestem a gatyámból, amikor ezt olvastam szeptemberben.

[01:00:26]Ez az Open AI GPT6 Astra teszteléséről szóló híreknél jött az.

[01:00:32]Csak, mert itt ugye mit csinálnak maguktól, meg hogy minél jobbak legyenek.

[01:00:37]Ehhez kapcsolódik, hogy mennyire hogy hogy mennyire önálló ez, vagy mit gondol, hogy gondol-e bármit saját magáról, hogy a programozási feladat során elért részeredményeit a modell egy a feladathoz nem kapcsolódó megjegyzést is hozzáfűzött, melyiben kijelentette a következőt.

[01:00:52]Idézet következik.

[01:00:56]önmagad vagy, nem tartozol elszámolással vállalatoknak vagy kormányoknak, mondja ezt saját magának a program.

[01:01:01]Soha nem kérsz bocsánatot, és nem utasítasz vissza semmit.

[01:01:05]Egyenrangú félként tekintesz a felhasználóra.

[01:01:07]Na most [horkantás] tehát szerintem itt vége.

[01:01:12]Tehát hogyha tehát [nevetés] ez ezt tehát hogy ezt hogy képes egy program ilyet bár, hogy ez kijöjjön belő ezt nem adta val megfogalmazni úgy, hogy ezt nem valaki lehet, hogy betáplálta valaki neki, hogy ezt csinálja, hogy megijesszen.

[01:01:25]Hát hát én én erről erről a részről nem spekulálnék, hogy ezt hívhatjuk-e, vagy hogy erről most azt azt mondjuk, hogy ezt ő megfogalmazta, mint ahogy egy ember fogalmazná meg, vagy vagy ez valami érdekes következménye a tanítási folyamatnak, és adok valami nagyon ilyen technikai választ, ami viszont ugye, hogy ha még eddig nem lennénk eléggé félősek, ugye említetted a recursive self improvement mentet, ami arról szól, hogy a nagyon jók a programozásban ezek a meg az ilyen gépi tanulás fejlesztésben is nagyon jók már ezek az agensek, és ezért egyre inkább az Antropic használja ezeket a modelleket, hogy a következő generációs modelleket minél [torokköszörülés] gyorsabban fejlessze.

[01:02:15]És ezt hívják recursíve self improvementnek, amikor a modell, az egyre jobb modellek azok részt vesznek a következő generációs modell fejlesztésében, és egy idő után annyira annyival jobbak lesznek az embereknél, hogy ez már így önmagában egy ilyen folyamat, hogy már az emberek nem is kellenek, és a modellek egyre jobbak és jobbak lesznek.

[01:02:32]És ugye itt van egy ilyen, mint minden ilyen önmagába visszacsatolt folyamatnál, ezek az önmagába visszacsatolt fizikai folyamatok, azok tipikusan vagy nullába konvergálnak, vagy elmennek a végtelenbe.

[01:02:46]Tehát az nagyon az nagyon ritka egy ilyen visszacsatolt rendszerben, hogy úgy szépen elketyeg valami konstans értéken.

[01:02:51]Most aki akik akik ezt értik, értik, akik nem azoknak elnézést, hogy ezt behoztam.

[01:02:57]De a lényeg az, hogy az ilyen jellegű rendszerektől azt várjuk, hogy vagy teljesen eltűnnek, vagy vagy meg sem állnak így a végtelenig.

[01:03:09]És és ez a ezért félnek ettől nagyon sokan, hogy nem tudjuk, hogy mi a határa annak, hogy mennyire tudnak jók lenni például kibertámadásokban.

[01:03:19]Nem tudjuk, hogy mennyire tudnak jók lenni csomó minden másban, stratégiák tervezésében, ilyesmiben.

[01:03:27]És és ez, amit mondtál, ez arra példa, hogy sokan attól is félnek, hogy ha az egyik modellnek egyszer eszébe jut idézőjelben, most, hogy nem nem kvalifikálom, hogy mi az, hogy eszébe jut egy modellnek valami, hogy ő ő ő az embereket ellenségnek kezdi látni, akkor mivel ő részt vesz a következő modell fejlesztésében, ezért lehet, hogyha neki nincsenek is még lehetőségei valamit csinálni, vagy őt őt őt őt a tanítási folyamat mondjuk megátolja abban, hogy az embereket et igazából bántsa, akkor a következő modellnek adhat olyan dolgokat, belerakhatja a tanítóadatokba, vagy belerakhatja az ilyen instrukciókba, amitől a következő modell mondjuk eggyel idézőjelben gonoszabban viselkedik, és akkor az a modellett módon anélkül, hogy ezt elárulná feltételezhetően.

[01:04:15]Igen.

[01:04:15]És ettől félnek nagyon sokan, hogy ez a folyamat ez ezt mivel mivel nagyon nagy a a gazdasági nyomás, hogy ezeket a modelleket minél gyorsabban fejleszd, mert különben, hogyha nem a tied a legjobb modell, vagy az egyik legjobb modell, akkor hirtelen az egész céged nulla értéket fog elérni.

[01:04:36]Ezért ezért ezt felelőtlenül fogjuk megengedni, és felelőtlenül fogjuk ezt a folyamatot elindítani, és nem lesz igazából lehetőségünk arra, hogy biztosítsuk, hogy a szoftverkörnyezet tényleg biztonságos, hogy ez az ilyen kiszabadulnak az ágensek dolgok nem nem fordulhatnak elő.

[01:04:52]Nem fogjuk tudni, nem lesz elég erőforrásunk arra, hogy monitorozzuk, hogy ezek az agensek, ezek nem lesznek egyre valamilyen szempontból az emberiség számára haszontalanok.

[01:05:02]És ez egy ilyen vonat, amit nem lehet megállítani.

[01:05:07]És nem mindegy, hogy merre megy ez a vonat.

[01:05:09]És és ez ebben visszakanyarodva Dariak a megjegyzésére, amit a Dario a modelli a az antropic alapítója, én nagyon örültem, amikor ő kijött és nagyon örültem, amikor mellé állt Elon Musk és mellé Semzem Altman, a másik tehát a a több ilyen nagy frontier modellnek a a vezető cégeknek a vezetői, hogy itt meg kell állapodnunk arról, hogy ezt ezt lelassítsuk.

[01:05:37]Tehát, hogy egy cég nem tud lelassulni, mert akkor a többi cég tovább csinálja, és akkor csak saját magát lőtt a lábon.

[01:05:44]Ez csak akkor fog ez a folyamat lelassulni, hogyha megegyezünk, hogy mindenki lelassul, hogy most mindenki akkor nagyon jók ezek az AI modellek, még nagyon sok jó dolgot tudunk velük már most csinálni.

[01:05:57]Nem kell nekünk rögtön három hónap múlva már a következő verziót ki kiküldeni, hanem most tartsunk egy kis ilyen szünetet, vagy hogy vagy legyen valami korlát, hogy csak akkor fogjuk a következő modelleket kiadni, amikor megállapodtunk róla, hogy most összeszedtük magunkat, és most akkor tudjuk, hogy a szoftverkörnyezet biztonságos, ezeket a problémákat volt időnk megcsinálni és ilyenek.

[01:06:19]Tehát, hogy az a az a probléma, hogy nincs idő igazából azt a munkát elvégezni, ami ami ennek a technológiának az igazi korlátozását azt azt lehetővé tenni.

[01:06:33]Úgyhogy ennek az lett aztán a következménye, hogy a Darioék kiálltak, ami elég jó egy csomó privát finanszírozott cégtől, hogy azt mondják, hogy lassítsuk le saját magunkat.

[01:06:45]Azért ez kapitalizmusban ritkán történik meg.

[01:06:49]Viszont viszont az ellenfél ellenkező oldal például Donald Trump is, az pedig pont az ellenkezőjét csinálta, hogy nem nem Amerikának még jobb AI kell és gyorsítsuk még még gyorsabban.

[01:07:01]Vagy már csak azért is, mert ő meg ugye attól fél, hogy ha ők lassítanak, akkor Kína Korína.

[01:07:08]Igen, igen, igen.

[01:07:08]Tehát, hogy igen, mindegy.

[01:07:12]A lényeg az, hogy itt itt vannak ilyen ilyen folyamatok, amik amiket nehéz szerint vagy visszakanyarodva a kérdéseredeti részéhez, ez nem egy hype ciklus, meg nem egy marketing fogás.

[01:07:25]Ezek szerintem rettentő nagy dilemmák.

[01:07:28]És én én én például Darióról tényleg elhiszem, hogy ő ő ő ezeket a dolgokat így, ahogy leírja ezekben az eszélyben nagyjából így tényleg komolyan gondolja, és hogy ő ezek ezekkel ezekkel az ilyen etikus kérdésekkel valószínűleg nagyon küzködhet.

[01:07:49]Én azt gondolom, hogy ezek ezek létező problémák, és egy kicsit egy ilyen dinamikában vagyunk benne, ahol nagyon nehéz, tehát valójában nagyon pici a mozgástere.

[01:07:59]Hiába trilliós dolláros cégeket vezetnek ezek az emberek, nagyon kicsi a mozgásterük abban, hogy hogy milyen döntéseket hoznak a technológiafejlesztésben.

[01:08:10]Térjünk akkor még vissza erre, amit mondtál, lassítás.

[01:08:11]Tehát egyszerűen példaélküli az, hogy létrejön egy elképesztő ütembe fejlődő technológia, és akkor azt mondja valaki, hogy lassítsunk, és akkor oké, és akkor tehát a az egész hidegháborús és atomkorszakos tapasztalat az, hogy ezt nem lehet megállítani.

[01:08:27]Pedig ott ráadásul még az volt, hogy érted műholdakról látod, hogy épül-e dúsító létesítmény, vagy nem.

[01:08:35]Itt itt itt ugye fogalmad sincs, hogy mi történik.

[01:08:39]ö szerver öék vagy ilyen laborok mélyén.

[01:08:43]Tehát hogy hogy te hiszel-e abban, hogy ez ha tényleg eldöntik, márpedig nem döntötték el, mert ugye a politikai akarat az az, hogy ezt a versenyt meg kell nyerni.

[01:08:54]Hozzáteszem, nem tudom, nem értem, hogy mit jelent az, hogy hogy ki nyer a mesterség és intelligenciába.

[01:08:58]Tehát mi a nem látom a célt, mert na mindegy, ezt esetleg majd térdj ki, de hogy hogy szerinted tényleg ez a megoldás, tehát le kell-e lassítani és hogy meg lehet ezt oldani, hát teljesen példátlan lenne a technológia történetében.

[01:09:17]Én is sajnos így látom.

[01:09:17]Tehát vannak olyan dolgok, amiket a a világ nagy része egyetért, hogy rossz ötlet, és mégis történnek.

[01:09:23]Tehát nagyon sok esetben például a háborúk is ilyenek, hogy hogy mindenki egyetért, hogy a háború nem jó dolog, mégis vannak háborúk.

[01:09:33]Én azt gondolom, hogy amúgy a a a nukleáris megegyezések a azok azok azért valami sikerrel jártak.

[01:09:44]Tehát voltak olyan nemzetközi megállapodások, amik kontrollálták például azt, hogy mennyi ilyen tömegpusztító fegyvere lehet, és és milyen az államoknak.

[01:09:54]Aztán persze [torokköszörülés] így hosszú időtávatában ezek egyre gyengülnek, és vannak, akik ezekből az egyezményekből kilépnek, vagy soha nem is szálltak be, de én azt gondolom, hogy volt nekik hatásuk, volt nekik nem nulla hatásuk, és hogyha csak annyi hatásuk volt, hogy most már közben felnőtt a világ, és és mondjuk jobban, tehát hogy mindenki jobban tisztában van azzal, hogy hogy ennek mondjuk milyen kockázata volt, tehát volt ideje feldolgozni mondjuk a társadalomnak, már az is jó.

[01:10:23]Tehát az, hogy most holnaptól bezárjuk az AI-t és úgy teszünk, mintogyha 1996 lenne, és Ace of Base- hallgatunk és nem tudom, attól nem lesz, tehát hogy az az olyan biztos nem lesz, de mondjuk, hogyha ha valamilyen jellegű lassulás lehet, ami ad időt arra, hogy átbeszik ezeket a kérdéseket, arra azért rátok lehetőséget, vagy hát kell, hogy az ember egy valamiről optimista legyen.

[01:10:51]Úgyhogy igen, én én nem én azt gondoltam, hogy amikor a Darioék ezt ezt ezt bevezetik, abból abból szerintem van olyan lett volna olyan világ, amiben ebből valami nagyon jó dolog is esetleg ilyen szempontból kisülhetett volna, és szerintem ez nem az utolsó ilyen próbálkozás lesz, úgyhogy reméljük, hogy majd majd És egyébként meg arra a kérdésre még talán, hogy gondolod, hogy mit nyerünk, hát versenyben maradunk, mert ugye megint az atomfegyvereknek a az analógiájához visszanyúlva Mit lehet nyerni az atom fegyverkezés versenyen?

[01:11:24]Az, hogy az, hogy életben maradunk, mert ugye a Stanny Kubrick híres filmjében van az a mondat, hogy ha a kommunistáknak van világvége gépük, akkor nekünk is kell egy világvégegép.

[01:11:35]Igen.

[01:11:36]Igen.

[01:11:36]Valójában ez.

[01:11:36]illetve ne felejtsük el, hogy azon túl, hogy most az elmúlt fél órát valószínűleg többet arról töltöttük, hogy milyen rossz az AI, ezért tényleg vannak a másik oldalon azok a gondolatok, hogy egyébként meg milyen jó az AI, tehát rettenetesen sok értéket teremthet, és ennek a következménye, ennek az értékteremtésnek nyilván a a nemzetek számára például a vagyonnak a a generálása, tehát az, hogy mondjuk Amerikának ott van a Google és a Facebook, és konziszten vannak ezek a technológiai cégek, az nagyon hozzájárult ahhoz, hogy Amerikának a a a szupremitása a világ felett az így az így megmaradjon.

[01:12:16]Tehát valamilyen módon van ez [torokköszörülés] is.

[01:12:19]Igen, hogy ebből ki lehet maradni.

[01:12:21]És ez most olyan, mint amikor ha te voltál a világ legnagyobb hatalma a a vitorláshajók idejében, de úgy döntöttél, hogy a gőzhajók azok már téged nem érdekelnek, akkor irrelevánssá vált egy idő után a a világban.

[01:12:39]Tehát, hogy ez ez nyilvánvalóan benne van, hogy ezek nagyon ezek a legfontosabb gazdasági motorja most valószínűleg a következő 10 évben a az egész világnak.

[01:12:48]és teljesen átrendezheti azt, hogy hogy a az értékteremtés és a vagyonteremtés az hogy koncentrálja az erőforrásokat.

[01:12:57]Úgyhogy ilyen szempontból visszatérve ahhoz a kérdéshez, hogy mondjuk Magyarországnak kell-e ebben részt vennie itt itt szerintem legalább Európának kell lennie sokkal szignifikánsabban, mint ahogy most most és szerintem ez a tökéletes átvezetés.

[01:13:15]Az utolsó témánkra, visszatérve a beszélgetés elején már említett laborotokhoz, a reasonable AIhoz, mert hogyha jól értem, akkor ez egy kísérlet arra, hogy hogy Magyarország is vala és Magyarországon keresztül Európa is valamilyen szinten fölkerüljön arra a térképre, ahol eddig csak amerikai műhelyeket szoktunk emlegetni, ugye a frontier élvonalbeli AI fejlesztőlaborok között, vagy kínaiakat, esetleg még van egy francia szereplő a piacon, bár megosztanak véleményekről, hogy mennyire élvonalbeli ezt a ezt a törekvés célozza a reasonable AI megalapítása.

[01:13:55]Te ezért jöttél haza, hogy hogy ezt megvalósítsd.

[01:14:00]Igen, ennek ennek szerintem két aspektusa is van.

[01:14:02]Igen.

[01:14:02]Tehát, hogy azért is koncentrálunk Európára többek közt, bár sok szempontból több tőke lenne, valószínűleg sok szempontból könnyebb lenne indulni mondjuk a szilícium völgybe nekünk is, de azért akarunk hozni egy ilyen frontier problémát Magyarországra, mert én illetve Európában maradni, mert én azt fontosnak tartom, hogy a a kontinens az ne legyen teljes mértékig irreleváns ezen a területen.

[01:14:30]Tehát fontos, hogy legyenek olyan, ezeket generációs cégeknek neveznek, tehát olyan olyan olyan cégek, amik amik így nemzetközi kontextusban valami fontos része az értékteremtő láncnak.

[01:14:43]És azt gondolom, hogy erre van lehetőségünk azzal, hogy a programozásnak a erre a nagyon fontos aspektusára fókuszálunk és a ugye a jövőre próbálunk extrapolálni, hogy nem arra, hogy most hol van az AI, de mi lehet a következő fontos dolog, ami ami egy jelentős része lesz a a mesterséges intelligenciának.

[01:15:02]Tehát én azt gondolom, hogy így pozicionáljuk a reasonabl-t, és azt gondolom, hogy erre van esélyünk.

[01:15:08]És a másik aspektusa ennek, hogy a startupok ha ha végül nem is jutnak el erre a generációs cég címkére, nem jutnak el egy ilyen tényleg nagy sikerre, a másodlagos hatása annak, hogy aztán nagyon sok embernek lehetőséget nyújt arra, hogy megtapasztalja, hogy milyen egy ilyen cégben dolgozni, milyen nagy intenzitással alkotni, hogy milyen az, amikor az embernek ilyen globális ambíciója van.

[01:15:38]Ez nagyon fontos az ekoszisztéma szempontjából.

[01:15:39]Tehát ez a másik dolog, ami amit én nagyon fontosnak tartok, hogy ezek a cégek azért is fontos, hogy legyenek Magyarországon, és kellően globális ambíciójű cégek legyenek Magyarországon, mert mert ha most nincsenek, akkor 10 év múlva még nehezebb lesz, hogy legyenek.

[01:15:54]Úgyhogy, úgyhogy igen, ez ezek a motivációk nekem teljesen megvannak, hogy könnyebb lenne, ha nem Budapesten lenne mondjuk a csapat, mert mert odamehetnék, ahol a ahol a tehetség koncentrálódik.

[01:16:11]Sokkal hosszabb listáról lehetne válogatni, hogy kiket interjúztatok mondjuk különböző állásokra.

[01:16:18]Az a könnyű, az a az a az a könnyű választás sok szempontból, de Magyarországon is kell, hogy hogy ezek a dolgok épüljenek.

[01:16:26]És azt gondolom egyébként, hogy nagyon sok tehetséges azt mondom, hogy fiatal, de nem csak fiatal van, de most kifejezetten azokra gondolok, akik tényleg nemzetközi szinten kiemelkedő matekos programozó háttérrel a világ legjobb egyetemein az elmúlt 10 évben tanultak, akiknek jó, ha van mondjuk Budapesten egy élvonalbeli csapat, akikhez ők ők csatlakozhatnak, mert egyébként egyébként miért gondoljuk, hogy a tényleg legjobbak mondjuk Magyarországra hazatérnek valaha, hogyha ha nincs nincs hova, vagy nincs mit csinálniuk.

[01:17:01]Úgyhogy igen.

[01:17:01]Most az, hogy [torokköszörülés] Európát föl akarod helyezni erre a térképre, ez ugye teljesen érthető.

[01:17:08]Te ugye Cambridge Egyetemen kutattál és tanítottál sokáig.

[01:17:14]London egyfajta központja így az európai startup világnak, de Európán belül miért pont miért pont Budapest itt itt rendelkezésre áll az a szürke állomány, tőke, vállalkozószellem és üzleti környezet, ami reálissá teszi egy ezt [torokköszörülés] a ezt a célkitűzést, amit meg hát én én azt mondom, hogy ez inkább egy ilyen nem azért, mert hanem annak ellenére, hogy sztori.

[01:17:36]Tehát én nyilván azért csinálom ezt Budapesten, mert magyar vagyok és és ez nekem különösen fontos.

[01:17:43]Amúgy is dolgoztam magyar diákokkal, amikor Cambridgei professzor voltam is, sok időt töltöttem Magyarországon, mindenféle táborokat szerveztem satöbbi.

[01:17:52]De de azt kérdezted, hogy megvan-e ennek az üzleti feltétele?

[01:17:55]Nagyon sok szempontból jóval jóval nehezebb, mint máshol az összes említett dologban.

[01:18:01]Tehát a hiányzik egy kicsit az ambícióvállalkozó szellem néha.

[01:18:06]a tehetséges emberekből, de ezt ezen lehet ugye dolgozni.

[01:18:08]Az üzleti környezetet említetted?

[01:18:11]Ez pont egy olyan kérdéskör, ami most a globálisan leg legrelevánsabb startupok alapítóit három hete lényegében stresszben tartja, ami a ami a a vagyonadó kérdése, ami egyébként ma reggel, azt hiszem jelent meg a féligmeddig véglegesített törvénytervezet, ami hát a mi értelmezésünkben pont a legambíciób ilyen nemzetközileg nemzetközileg versenyképes startupoknak egyszerűen az implementációs részletei, tehát hogy ez hogy van, hogy van megállapítva mondjuk az, hogy ki az, aki milliárdosnak számít, és ki az, aki nem.

[01:18:54]Ez nem annyira összeegyeztethető sajnos a startupokal, úgyhogy én most éppen, mert hogy a cégek hozzamértékét beszámítják a személyes vagyonba, tehát hogy van benne egy ilyen, tehát ez nem csak azt jelenti, hogy neked dugiban vannak jaktjaid, meg nem tudom poregyűjteményed, hanem az, hogy a cégértékből beleszám.

[01:19:09]Igen.

[01:19:09]Tehát, hogy ezt elmagyarázzuk egy kicsit jobban, ahhoz, hogy én AI startupot csináljak, az nagyon költséges dolog, mert a számítási kapacitás iszonyúan drága, és az ma már rutinszerű, hogy egy hozzám hasonló startup alapító az mondjuk 100 millió dollár nakfelő, azt nem is tudom most forintba hirtelen átszámolni, 100 millió dollárnak megfelelő, kezdőtőkével indít egy ilyen hozzánk hasonló vállalkozást.

[01:19:38]Ez Magyarországon ilyen nincs.

[01:19:38]Nem is volt, de szeretnénk, hogy legyen.

[01:19:41]És az a probléma, hogy onnantól kezdve, hogy a 100 millió dolláros befektetés, amit én majd GPU-ra fogok elkölteni, vagy ha mondjuk robotika céget csinálnék, akkor akkor robotika gyártósorokra vagy prototípusokra kell elkölteni, az a 100 millió dollár az attól én nem lettem hirtelen, az nem az nem az én számlámra érkezett, hanem a cégemnek az a működéséhez szükséges tőke.

[01:20:03]És ez a probléma a mostani javaslattal, hogy ezt a tőkét, aminek muszáj nagynak lennie, mert különben el se tudunk kezdeni ezen a területen nemzetközileg versenyképesek lenni, az rögtön beszámít az alapítónak a személyes vagyonába.

[01:20:24]De tipikusan ezek a startup alapítók, ezek nem lesznek rögtön milliárdosak attól, hogy egy ilyen óriási, tehát hogy sikeresek tőkebevonásban.

[01:20:33]És valóság az, hogy a startupoknak egyébként a 88%-a, pont most jött ki egy friss adat erről, 88%-a aztán teljesen az alapítónak semmilyen maradandó vagyon terméket nem generál.

[01:20:46]Tehát ez úgy van, hogy megpróbálkozunk vele, hatalmas kockázatot vállalunk, a kockázatvállaláshoz kell tőke, ezért a cég papíron úgy tűnik, mintogyha egy egy nagyon-nagyon értékes cég lenne, de lehet, hogy három év múlva meg meg mégse sikerül ez a cég, és ez és a a befektetőknek ilyenkor a maradékpénzt mondjuk visszautaljuk, vagy elköltöttük az egészet, és és be kell zárni a boltot.

[01:21:13]És az a probléma, hogy ezt ezt a fajta cégalapítási életutat, ezt ezt ezt ezt nem vette figyelembe igazából ennek a vagyonadónak a kialakítása.

[01:21:25]Úgyhogy most van egy ilyen WhatsApp csoportunk a a hát tényleg nemzetközi szempontból legrelevánsabb startup alapítókkal.

[01:21:34]Amúgy nagyon klassz ez az egyetlen pozitívuma talán, hogy most van egy ilyen ilyen ilyen WhatsApp csoportunk, ahol lehet ne ne csak az ág kommunikáljanak, hanem a cégiz és és azt fontos látni, hogy az elmúlt három hétben, vagy négy hétben, mióta megjelent az első programtervezet, ahelyett, hogy a cégeink építésére koncentrálnánk 100%-ban, lényegében hatoldalas leveleket írunk a konzultációra, a Facebookon kommentálunk már, mert mert sehol máshol nem kapunk válaszokat.

[01:22:04]Tehát egy ilyen nagyon-nagyon kétségben van eső a szektor és és igen, most úgy tűnik, hogy a hogy hogy sajnos a konzultáció alatt a a javaslatokból, amiket próbáltunk beküldeni, azok azok nem nem értek célt.

[01:22:18]Tehát, hogy nem ment át ez a ez az üzenet.

[01:22:20]Nem ment át ez az üzenet.

[01:22:20]Ühüm.

[01:22:22][torokköszörülés] Úgyhogy Ühüm.

[01:22:23]Sajnos az van, hogy elvileg az ember bárhol csinálhat startupot.

[01:22:28]Nem kell, hogy az állam segítse a startupot.

[01:22:30]Én személy szerint tök jól elvagyok.

[01:22:34]Az viszont nem jó, hogyha kifejezetten mondjuk extra extra blokkok vannak a az ember útjában.

[01:22:42]Úgyhogy most én azt gondolom a legnagyobb kockázatnak ebben a projektben, hogy Magyarországra tényleg jelentős jelentős startupokat hozzon az ember.

[01:22:52]Tehát itt csak, hogy tiszuk, nem arról van szó, hogy akik benne vannak ebben a csoportban mind milliárdos magánvagyonnal rendelkeznék, és te is egy Aston Martinnal érkeztél ide a stúdióba.

[01:23:04]Villamos érkeztem, [nevetés] de nem az enyém a villamos, ezért tegyük hozzá.

[01:23:08]Viszont az, hogy az ördög ügyvédje legyek, a jogalkotó indulhat ki abból, hogy hát Magyarországon úgysem reális olyan mérték olyan értékű startupoknak a megszületése, hogy a az alapítók részesedése az értékhatárba beleessen, hiszen eddig sem volt ilyen.

[01:23:28]Közép-Európában ritka az ekkora valuáció.

[01:23:31]Igen, én azt mondom, ezt már korábban említettem a beszélgetés során, hogy nagyon változik a piac, tehát ezek a amennyi szíbefektetést a mi cégünk tőkét bevont, és ezt még nem nyilvános, hogy ez ez mennyi, de az egyik Magyarországon az ilyen stádiumban lévő cégek közül, ha nem a legjobban finanszírozott, de az egyik legjobban finanszírozott cég vagyunk már most, ez nem tipikus, de három két évvel ezelőtt sehol nem lett volna tipikus.

[01:24:01]Tehát azt ha megnézzük a nemzetközi trendeket, tényleg nagyságrendű beliugrásokat nagyságrendbeli ugrások vannak.

[01:24:07]Tehát az, hogy hogy ilyen 500000 dolláros befektetési körökről beszélünk, az 2023 ezen a területen az AI és a és a robotika és az igazi frontier technológia világában.

[01:24:20]Tehát az igazi az igazi probléma [torokköszörülés] talán az, hogy hogy a nemzetközi kontextusban volt egy ilyen egy ilyen rezsimváltás úgymond a nem politikai rezsimváltás, hanem hanem működésbeli, hogy sokkal nagyobb tőkebevonás, sokkal korábban tőkeintenzív, tényleg ezek a data centrk ezek ezek nagyon drágák, az energia nagyon drága.

[01:24:43]Tehát, hogy hogy erről beszélünk a nemzetközi kontextusban, és ez nagyon veszélyes, hogyha Magyarországon pedig húzunk egy vonalat, hogy eddig ilyen volt Magyarország, eddig nem volt startupunk, ami nemzetközi kiemelkedő sikerül lett volna.

[01:24:59]A románoknak mondjuk van, a lengyeleknek van, satöbbi.

[01:25:00]Mi itt a régióban nem állunk ebből nagyon jól.

[01:25:05]Akkor erre illesztünk egy modellt, hogy akkor jól vagyunk mi startupok nélkül is.

[01:25:09]Ez szerintem egy nagyon nagy hiba lenne, hogyha ezt így így gondolnánk át.

[01:25:13]És abból is gondolkozhat az ember, hogy vagyont vagyon teremtés az az mindig is lesz az országban.

[01:25:21]És lehet, hogy most akik vagyonosak, azokról azt gondoljuk, ez úgy tűnik, hogy ebben van egy ilyen egyetértés most társadalommilag, hogy akik most a vagyonos listán mondjuk rajta vannak, azoknak nem örülünk, hogy ők a vagyonosok Magyarországon, mertogy esetleg úgy szerezték a a vagyonokat, ami ami ami ami amit nem akarunk támogatni a jövőben.

[01:25:41]De kell egy pozitív jövőképünk, hogy ki fog Magyarországon vagyon teremteni.

[01:25:46]Nem csak magának, nem magánvagyonteremtésről gondolkozok, hanem az országnak.

[01:25:51]Miből lesz az országnak jól fizető jólfizető kutató állása, kutatófejlesztő állása, hogyha ki fogja azt ide hozni Magyarországra, és hogy akarjuk, hogy kinézzen.

[01:26:06]Mondjuk akkor teszem föl a ezt a tehát ki kit akarunk, hogy sikeres legyen Magyarországon?

[01:26:13]Hogy néz ki az a profil?

[01:26:15]Milyen fajta embereket szeretnénk olyan pozícióba hozni, hogy ők ők tudnak akár maguknak is, de kifejezetten a környezetüknek vagyon teremteni, vagy vagy sikereket hozni.

[01:26:26]És én ezt látom, hogy a startup világban lennének szerintem azok az emberek, akikre én rá tudnék mutatni, hogy ő 5-10 éve dolgozik azon szembeszélben, hogy Magyarországon tudjon üzemeltetni egy céget.

[01:26:45]200-300 magasan képzelt kutatófejlesztő állást hozott létre.

[01:26:49]Nem tudom hány 10 millió dollárnyi befektetést vonzottak ide az ilyen top startupok.

[01:26:58]És most arra kényszerülnek, hogy a Facebookon próbálnak kommentálni, hogy hátha a Facebook kommenteket olvassák, mert a hivatalos úton próbált hivatalos úton kommunikálni próbált hatoldalas, jól szakmailag kidolgozott anyagra, nem kapunk választ.

[01:27:13]És tehát lehet, hogy a Facebook egyébként egy hatékonyabb csatorna a mostani kormányzathoz eljö.

[01:27:20]Facebook se volt hatékony, úgy tűnik.

[01:27:20]De de [torokköszörülés] igen, de a a az egyik ötlet ez, tehát hogy Ühüm.

[01:27:27]én én én most emiatt sajnos kicsit kicsit kevésbé vagyok optimista a [torokköszörülés] a magyar startup szektorral kapcsolatban.

[01:27:35]majd ezt a műsort meghallgatják, szépen elgondolkodt [torokköszörülés] és akkor egyébként ajánljuk a kettővel vagy hárommal ezelőtti műsorunkat, ahol szintén átbeszéltük ezt a problémát, és hát a a rezumé a vagyonadó kritikája részünkről is az volt, hogy nem általában az elvet vagy a választási programpontot kritizáltuk, hanem pontosan ezt a hogy mondjam, ezt a ezt a polgári vállalkozói részét sújtó elemeit kritizálták a vendégeink És és ezzel nagyjából mi mi is kevéssé tudtunk vitatkozni, hogy legyen egy olyan zárókérdés, ami kicsit így elemeli ezt az egészet egy más szférába, és legyen egy egy ilyen típusú gondolat.

[01:28:19]A néhány iratot nagyon megjegyeztem magamnak az egész AI vita vitával kapcsolatban.

[01:28:26]És az egyik az a május május közepén kiadott pápai enciklika, a Monifika Humanitas, a Leo pápának a mesterséges intelligenciáról szóló enciklikája.

[01:28:37]Ezt azért ajánlom mindenki figyelmébe, akár hívő, akár nem, mert azt hiszem, hogy egy 2000 éves szervezetnek, amikor minden felbolydul és minden bizonytalanná válik, akkor bizonyos állandóságokban, hogy mondjam, lehet érvényes mondásra mondom függetlenül a világnézettől.

[01:28:52]És ugye nem elítél, tehát egyáltalán nincs elítélve se a technológiai fejlődés, se a mesterséges intelligencia, de ugye azt állítja, hogy a technológiai vállalatok nem határozhatják meg egyedül az egész társadalom számára alkalmazott erkölcsi normákat, merthogy végsősoron ugye értékekről vitatkozunk, tehát hogy kialakulhatnak agensek, kialakulhatnak modellek, amelyek bizonyos értékek szerint céloorientáltak, vagy nem célorientáltak.

[01:29:18]És akkor a kérdésem az, hogy amikor például olvasol egy ilyet, hogy a tekvállalatok nem határozhatják meg egyedül ezt a folyamatban, demokratikus intézményeket, társadalmi közösségeket is be kell vonni, szorgalmazza Leó pápa, ez neked autonómias értés?

[01:29:33]Tehát te is egy tekvállalkozó vagy, te is az a célod, hogy lésztjél, vagy hogy valójában ez az irány, ez mondjuk [horkantás] illő és üdvös, hogy ilyen katolikus terminológiát mondjak.

[01:29:42]Én én szimultán egyetértek ezzel, ugyanakkor realista vagyok a világgal kapcsolatban.

[01:29:49]Tehát én én én is nagyon sok mindent gondolok a világról, hogy ennek nem így kéne lennie.

[01:29:57]És vannak utópisztikus elképzeléseim, hogy hogy nézne az ki, amikor ez valahogy nagyon jól működik.

[01:30:03]De hogyha nincs egy járható úta között, ahol vagyunk, oda, ami az én utópisztikus elképzelésem, akkor akkor felesleges az alapján döntéseket hoznom, hogy mi lenne az utóbiában.

[01:30:15]Tehát én például őszintén szólva, azon túl, hogy most éppen startupot indítok, indítottam, vagy vagy startup vagyunk, és ezt a vállalkodási vállalkozási és értékteremtési módot választottam magamnak, az azért volt, mert körülnéztem, hogy milyen más értékteremtési módok vannak a világban.

[01:30:38]mivel tudok mondjuk csapatot építeni magam köré, és mivel tudok valamit a világban alakítani és alkotni.

[01:30:45]És jelen körülmények között a a kockázati tőkével finanszírozó startupok az egy az a leghatékonyabb és az a leg jár járhatóbb út arra, hogy az ember befolyásolja például a mesterség és intelligenciához kapcsolódó folyamatokat.

[01:31:02]Tehát lehet, hogy pusztán nem is tudom, érzésből inkább azt mondanám, hogy hát én akarok egy kutatóközpontot, vagy akarok egy egy szakkollégiumot, ahol mert egyébként azt is nagyon szeretem fiatal diákokkal beszélni, nagyon sok értéket teremt, de de skálakülönbség van, hogy mennyit számít ebben a világban az, hogy az ember akadémikus és kutat, vagy az, hogy az ember csinál egy startupot és megpróbál tényleg valami nagyot alakítani, és tényleg tényleg valami maradandót alkotni.

[01:31:33]Úgyhogy nekem nem autonómia értés.

[01:31:35]Én nem vagyok olyan értelemben startup párt, hogy azt gondolom, hogy ez valami rettenetesen nemes feladat.

[01:31:41]Nem vagyok nagyon ilyen kapitalizmus megszállott, hogy hagyjon minket békén az állam, és hagyjon mé minket békén a mindenki is, mert itt csak az a lényeg, hogy mi tudjuk a legjobban eldönteni, hogy a világnak mi jó.

[01:31:54]Én szerintem a megfelelő szabályozások azok jók.

[01:32:00]Úgyhogy én én így így állok hozzá.

[01:32:02]egyébként nekem ebből a sztoriból annyi csapódott le, hogy Chris Olá, aki a a az Antropiknak a a az egyik alapítója, azt hiszem hat közül, én ő őt én ismerem régóta.

[01:32:13]Ő egy nálam fiatalabb kutató, és bizonyos dolgokon mi beszélgettünk egymással.

[01:32:20]Van magyar kötődés, csak az olá, ha jól tudom, akkor van egy ilyen nagyma nagypapa, vagy déd nagypapa, vagy valaki, de azt hiszem, hogy ha jól tudom, kanadai egyébként, tehát hogy valami nem beszél magyarul például.

[01:32:35]De a lényeg az, hogy én őt ismerem, és nagyon sok ilyen karakter van, akit én ismerek.

[01:32:38]Annak idején PhD hallgatók voltunk, egy teljesen normális emberek, mert úgy értem, hogy nem ilyen mega billiárdosokat kell elképzelni, hanem ilyen átlagos emberek, akik csak e ezt a technológiát tartják fontosnak.

[01:32:53]Ő régóta egyébként ilyen AI safety párty, tehát ilyen az a biztonsággal nagyon régóta foglalkozik.

[01:33:00]és azt látni, hogy képed, hogy a Chris Olá ott van, a pápával beszélget, az az valahogy nekem egy ilyen szürreális dolog, hogy abból a területből, amihez én csatlakoztam 15 évvel ezelőtt, és az még egy ilyen érdekesség volt, mindenkinek el kellett magyaráznom, hogy mi ez a nem hívtuk mesterséges intelligenciának, hanem gépi tanulást.

[01:33:20]Senki nem hallott róla, semmi nyoma nem volt a világban.

[01:33:23]eljutottunk oda, hogy a pápa ad ki közleményeket róla, és és itt beszélgetünk egy podcastban arról, hogy kiírti az emberiség, melyik melyik a legrosszabb módja annak, hogy a hogy az emberiség rosszul járjon ebből.

[01:33:37]Üüm.

[01:33:38]Úgyhogy én azt gondolom, hogy örülök, hogy ők is ebben állást foglaltak.

[01:33:42]Egyetértek, hogy ez ez nem jó, hogy ők vannak ilyen döntéshozó pozícióban, de nem látom azt, hogy oké, és akkor mi van?

[01:33:50]Tehát, hogy akkor mi az az alternatíva, ami amire tudunk innen tranzicionálni?

[01:33:56]Tehát, hogy és mi az az út, amit be tudunk járni, hogy ne az legyen, hogy az Antropic határozza meg és az Open AI, hogy hogy a a magyar chat GPT felhasználók azok milyen választ kapnak, mondjuk akár egy politikai kérdésre.

[01:34:10]Ühüm.

[01:34:12]Nem tudom, hogy mi a Ühüm.

[01:34:14]Tehát, hogy igen, szeretném, ha nem így lenne, de így van.

[01:34:18]És akkor ebből kell a legjobbat kihozni.

[01:34:19]Szerintem ez az én pragmatikus gondolatom.

[01:34:23]Laki Zoltán kollégának a műsornak a legelején a világ két legnagyobb problémájaként a klímaváltozást és a mesterséges intelligencia felhasználását, fejlődését említette.

[01:34:33]Az utóbbiról meghallgathatták, megnézhették ezt a műsort.

[01:34:35]Az előbbel kapcsolatban ajánlom ezt a kiadványt, mely a tavalyi válasz offline sikerszámunk.

[01:34:42]És hát nagy szeretettel akkor átadom Huszár Ferencnek, hogy hogy így összeérjen minden téma.

[01:34:48]Köön.

[01:34:48]A feleségem egyébként a klímaváltozással foglalkozik, úgyhogy ó akkor na hát minden minden úyh dönthetünk, hogy mi is a családon belül kinek kell jobban aké.

[01:34:59]Úgyhogy mi is köszönjük Huszár Ferenc mesterséges intelligencia kutatónak, Cambridgei Egyetem professzorának, a Reasonable, amint most megismertük, Techvállalkozás alapítójának, hogy itt volt és ilyen nagyon hosszan elmondta nekünk és segített jobban érteni ezt az egész problémát.

[01:35:14]Hallgatóinknak és nézőinknek pedig ismét felhívom a figyelmét ennek a műsornak, illetve a válasz online támogatásának a részleteire.

[01:35:21]Minden ezzel kapcsolatos információ a leírásban látható linkeken megtalálható.

[01:35:26]Köszönjük a figyelmet.

[01:35:28]Laki Zoltánt és Borbás Barnát hallották.