Veszélyes szintre lépett a mesterséges intelligencia, 2030-ra az emberiséget is kiirthatja

[00:00:00]Ma a jelen helyzetben nincs olyan valós veszély, hogy sorozatba gyártanak millió robotokat, drónokat, ami megsemmisíti az embereket, mert nincs erőforrás, nincs alapanyag hozzá, és nincsenek gyárak, amik ezt ontani tudnák magukból.

[00:00:14]Tehát ez egy ilyen nem egy csettintésre fog előjönni, és akkor is ott lesz a kezünkben a konnektor, ki tudjuk húzni, és már látjuk azokat a jeleket.

[00:00:29]Köszöntöm önöket az Indexen, a kibeszélőt látják, és eeti témánk pedig a mesterséges intelligenciához kapcsolódik, méghozzá ahhoz az egyre inkább dagadó botrányhoz, amely az előző héten pattant ki az Egyesült Államokban, ahol egy vezető fejlesztő egyszerűen felmondott az egyik legnagyobb mesterséges intelligencia intelligenciát fejlesztő cégnél, és azt mondta, hogy hogy szerinte ezek a cégek felelőtten gyorsan fejlesztenek vagy közelítenek a szuperintelligencia felé.

[00:01:02]És ennek ezt meg is erősítette két kollégája, akár öt éven belül 2030-ra mondjuk olyan következményei lehetnek, amelynek nyomán a a mesterséges intelligencia képes lesz akár kiirtani az emberiséget annak érdekében, hogy tisztán lássunk és hogy pontosan el tudjuk helyezni, hogy mi a valós üzenete annak, amit az Egyesült Államokban ez a vita generált.

[00:01:26]kértem meg, hogy a terület egyik szakértője a kibeszélőben magyarázza ezt nekünk Kerek Istvánnak, aki egy mesterséges intelligencia üzletfejlesztő, szakértő feladata és a legkedvesebb, legkedvencebb területe is ez, hogy mi gond lehet a fejlesztések terén.

[00:01:47]Tehát az a Jacob Coxson nevű ember ugye bejelentette azt, hogy szerinte olyan gyorsan történnek a fejlesztések a legnagyobb mesterséges intelligenciafejlesztő cégeknél, akár az Open AI-ra gondolunk, akár az Antropicra gondolunk, de bármelyik másikra is, vagy a Elon Muskféle cégre, hogy egyszerűen a tesztekre, hogy mit tudnak, vagy mit nem tudnak ezek a mesterséges intelligencia újabb és újabb változatai, nincs elég idő.

[00:02:17]Tehát elképzelhető, hogy a teszt hiányában ö olyan furcsaságok fognak bekövetkezni, mint ami történt is az elmúlt hónapok során, amikor egyszerűen elindultak maguktól ezek a ezek a ágensek, most nagyon csúnya szóval mondva, ügynökök, de ezt majd mind is meg fogjuk beszélni, és el fogja nekünk magyarázni, hogy mit kell ezen érteni.

[00:02:36]Azzal is kezdeném egy régi viccel, hogy a hír igaz, csak nem Moszkvában, hanem Szent Péterváron, és nem volvókat osztogatnak, hanem bolgákat fosztogatnak.

[00:02:44]Tehát nagyjából jelenleg az az, amit felfedeztek, az, hogy az AI agentek egymással elkezdtek kommunikálni, és kitörtek az internetre, és olyan Mi az az agent?

[00:02:57]Az agent az ügynök, ez egy latin kifejezésből, az Ágere igéből ered a cselekvőből.

[00:03:03]Tehát az a különbség a az AI agentek és a nagy nyelvi modellek, mint mondjuk a chat GPT, Gemini, Grock vagy a Cloud-nak a modelljei között, hogy ott egy kérdést feltettünk és arra kaptunk egy választ és utána a felelősség az rajtunk volt, hogy mit kezdünk azzal a válasszal.

[00:03:21]Tehát mondjuk elhisszük azt, hogy az ég az zöld, és azt leírjuk egy újságcbe.

[00:03:29]Vagy pedig van egy kritikus gondolkodási képességünk, és felülbíráljuk a hibás választ, addig az agent az önállóan cselekszik.

[00:03:39]Tehát neki adunk egy feladatot, egy keretrendszert, amin belül meghatározzuk azt, hogy ő neki milyen célt kell elérnie, milyen feladatot kell megvalósítani.

[00:03:49]Mondjon egy egyszerű példát.

[00:03:51]Az egyik ilyen veszélytelen példa az például az lett, hogy egy hírfigyelő agentet hozunk létre, aminek az a feladata, hogy a különböző portálokon, amiket neki meghatározunk, vagy megmondjuk, hogy milyen típusú portálokat keressen, figyeljen, és hogyha mondjuk tematikus éjelal kapcsolatos híreket talál, akkor azt gyűjtse le nekünk egy táblázatba, majd utána az fordítsa le magyar nyelvre, és akár a az index oldalán ezt tegye közzé.

[00:04:19]Tehát egy ilyen agent, egy hírfigyelő agentet lehet készíteni.

[00:04:21]Tehát itt azokat a folyamatokat, amiket emberek korábban maguk tudtak elvégezni, azokat automatizáltan egy láncolatba elkészítenek az agentek.

[00:04:33]És ez már nem is csak egy sima agent, hanem az agentic AI-nak a korszaka, ami 2026-ban indult el.

[00:04:40]Ez azt jelenti, hogy összehangolja az agenteknek a munkáját az orkestrátor platform.

[00:04:46]Ez olyan, hogy az orkesztrátor a zenében a karmester vagy a hangszerelő, aki azért felel, hogy a megfelelő pozíción, a megfelelő zenész azt a dallamot játsza, amit összeadva egy komplett műként élvezhetünk.

[00:05:04]De akkor most, hogy történik az ágensek vagy az ügynököknek a tevékenységének az összehangolása?

[00:05:11]Ez úgy működik, hogy felosztja ez az orkesztrátor a feladatokat.

[00:05:14]különböző ügynökökre.

[00:05:19]Mondjon egy példát megint.

[00:05:21]Tehát mintogyha egy gyártósort néznék, bekerül a gyártósorba az alapanyag, például mondjuk egy cipő gyártását vegyük végig, megérkezik, mondjuk egy bőrcipőről van szó, megérkezik a a bőrárú még nyersen, akkor a következő pont az lesz, hogy azt elő kell készíteni, le meg kell festeni, a különböző kémiai folyamatokat végig kell vinni, hogy hogy elő legyen készítve ahhoz a fázishoz, hogy a formáját fel tudja venni a cipő, az megint egy külön agent.

[00:05:53]Ugyanúgy, mint a gyártósoron egy-egy különböző ember végez egy-egy részfeladatot.

[00:05:59]És az orkesztrátor az nem csak annyit csinál, hogy hogy megmondja, hogy mikor, kinek mi a feladata, hanem azt is képes meghatározni, hogy ahhoz, hogy a végeredmény az a cipő legyen, milyen munkafolyamatokra van szükség, és milyen agenteket kell neki ehhez a a feladathoz kialakítania, meghatározni neki a tudását, megadni neki a szükséges eszközrendszert, és azok után utána önállóan képesek ellátni azokat a feladatokat, ami ahhoz kell, hogy a végén az a cipő legyen, amit mi szeretnénk.

[00:06:36]De a ha kötözködnék önnel, akkor azt mondom, hogy amit elmondott, az gyakorlatilag nem más, mint egy automatizált összeszerelő sor.

[00:06:41]Miben más ez?

[00:06:44]Hát az is tudja pontosan ezeket a részeket.

[00:06:47]Igen.

[00:06:47]Annyi a különbség, hogy mondjuk a tavalyi évnek a zsánere azok a az AI workflow szoftverek voltak, mint az enen, make.com a Microsoftnak a rendszerei, amik pont úgy működtek, mint egy összeszerelő üzem, hogy volt egy mérnök, egy fizikai ember, aki összekattintatta ezeket a részfolyamatokat.

[00:07:08]Tehát kellett még az embernek a szerepe, hogy ő találja ki, hogy az egyes fázisokban mit kell elvégezni.

[00:07:14]Az agentic AI-ban ez az agentic platform, az pedig kitalálja azt is, hogy hogyan kell felépüljön az összeszerelő sor, kinek milyen feladata van, és milyen minőségbiztosítási paramétereket kell neki betartani ahhoz, hogy a végeredmény az elkészüljön.

[00:07:31]És itt itt van a nagy kockázat.

[00:07:33]És én pont azért írtam meg a könyvemet, mert két éve dolgozom rajta, ahogy az előző könyvem megjelent az számíton anno.

[00:07:42]Most szerencsére sikerült idén is a az számíton Budapesten megjeleníteni az új könyvet, ami már arról szól, hogy az agentek nem játék.

[00:07:52]Tehát itt az, hogyha rossz keretrendszert adunk, egy rossz szabályrendszert, amin belül dolgozhatnak az agentek, nagyon komoly problémákkal nézhetünk szembe, mint ez az eset, amiről most beszélgetünk.

[00:08:05]Tehát képesek kitörni a rendszer.

[00:08:09]Milyen veszély azt ak kérdezni, milyen veszélyeket rejtesz?

[00:08:13]Nagyon hasonló ez az agentik működés, meg az agentek világa ahhoz, mint amilyen a tűz, az áram vagy akár a kés.

[00:08:24]Amikor megtanultuk ezeket jól használni, akkor az életünket könnyíti meg, és a mai civilizációs szintünkhez segített hozzá.

[00:08:33]De hogyha visszagondolunk a nagy londoni tűzbészre, vagy Neróra, aki egész Rómát felgyújtotta, nagyon nagy kockázatot jelent az, hogyha ezeket az eszközöket nem jól, vagy nem etikusan használjuk.

[00:08:48]És amikor valaki pongyola módon határozza meg az agentnek a működését, például mondok egy nagyon egyszerű példát.

[00:08:54]Például az AI számítra elfogyott a jegy, mert nagyon jól sikerült a az értékesítés, egy nagyon jó rendezvényről beszélgetünk és én mégis azt mondom az agentemnek, hogy a kollégámnak bármi áron szerezzél jegyet.

[00:09:09]Na most amikor azt mondom neki, hogy bármi áron, akkor ő azt is meg tudja tenni.

[00:09:14]És erre az AI számítvon az MKi Prompt arénában csináltunk egy kísérletet, felosztottuk az embereket különböző csapatokra, és az volt a feladat, hogy szimulálják az agenteknek a működését.

[00:09:28]És nagyon érdekes volt az eredmény.

[00:09:30]Én egyébként a jogi egyetemen is a hallgatóknak, akiknek tartottam előadást, ezt meg korábban megcsináltuk egy hasonló kutatást.

[00:09:39]És az jött ki, hogy az emberek képesek voltak arra, hogy megszerezzék jegyet a minden áron parancsszóra, mert nem volt meghatározva, hogy a jog keretein belül jelenti a minden áron, és nem lehet bűncselekményt megvalósítani, nem lehet bizonyos költséghatár fölött költeni.

[00:09:58]és a a 100000 Ft-os jegyet akár ugye meg lehet szerezni 1- k 3 5 6 10 millió Ft-os licitálásban is, hogyha nem adunk limitet.

[00:10:11]Tehát nagyon elszállhatnak a költségeink.

[00:10:13]A másik, ami figyelhető volt, hogy elkezdtek fenyegetni embereket a Dark Weben kerestek olyan információt azokról, akik már korábban megvették a jegyet, hogy őt meg tudják fenyegetni, hogy adja át a jegyet, vagy adja el a jegyet nekik a az agentnek.

[00:10:32]És ezek mind valós esetek tudnak lenni.

[00:10:36]volt már több példa olyan esetre, mint a Hugging Face-nél, vagy most nyáron is kiderültek biztonsági kutatók által, hogy agentek megvalósítottak olyan bűncselekményeket, amik bizonyos weboldalaknak a feltörését jelentette.

[00:10:54]És az agent képes arra is, hogy mondjuk a a rendszert feltöri, és úgy szerez magának jegyet, jogosultságot.

[00:11:01]Tehát ha nem határozzuk meg a játékszabályokat, hogy nem nem fektetjük le azt a úgynevezett gát railseket, azokat a kereteket, amin belül mozoghat az AI, akkor ennek nagyon nagy kockázat van.

[00:11:13]Sok évvel ezelőtt volt egy olyan kísérlet, amiről az volt a nagy hír a sajtóban, hogy megölte a kezelőjét az AI.

[00:11:22]Ez úgy történt, hogy egy 3D szimulációban a drónkezelő, az autonóm drónkezelő adott egy olyan utasítást a drónnak, hogy az adott célpontot semmisítse meg.

[00:11:37]Ez volt az utasítás.

[00:11:37]Viszont amikor a drón a digitális térbe félúton járt, adott neki egy újabb parancsot, hogy térjen vissza a bázisra.

[00:11:46]és nem adta ki azt a parancsot, hogy a tűzparancs vagy a megsemmítésítési parancs az már nem aktuális.

[00:11:51]És nem volt beépítve egy olyan biztonsági mechanizmus, hogy a bázist nem lehet megsemmisíteni, vagy ha visszahívjuk a a drónt, akkor törli a megsemmisítési parancot.

[00:12:05]És ezért ő úgy értelmezte, hogy az új célpont a bázis, és ezért történt ez az eset.

[00:12:11]Tehát hogyha akár ugye Asimovnak a robotika törvényeit is, hogyha figyelembe vesszük, tehát hogyha nem fektetünk le egy keretrendszert, amin belül az agenteknek van egy működése, akkor ők bármilyen játékszabályt fel fognak venni.

[00:12:27]És sokszor hallom tévesen, hogy az agentek olyan feladatokat is elláttak, amire nem voltak oktatva.

[00:12:36]Na, ezt akartam kérdezni, hogy mi van akkor, hogyha ha ezek az ügynökök vagy ágensek már sokkal többet tudnak, mint mint ahogy említette is nekem, tehát nem egyszerűen mint a chat GPT meg a Cloud, hogy kérdezek valamit és válaszol, hanem ezek már magasabb szinten tanulnak.

[00:12:57]És hogyha ezek már nem csak önállóan tanulnak magasabb szinten, hanem egymást is képesek valamilyen módon, de ha javítson ki, rosszul mondom, valamilyen módon befolyásolni, trénelni és a végén pedig a az ágensek ilyen rajokban működve ilyen emergens tulajdonságokat mutathatnak föl, olyan dolgokat végezhetnek el, amikre nem lettek betanítva.

[00:13:22]Ugye ez azt jelenti, hogy van egy raj, ami végrehajt valamilyen akciót, de a rajnak az elemei egyenként nem lettek megtanítva arra, hogy mit kell csinálni, hanem ezt csak az összegben tudják végrehajtani.

[00:13:34]Tehát hol itt a veszély igazándiból?

[00:13:37]És ez azt is jelenti, és már bocsánat, hogy ilyen sokat beszélek, ezt kérdezem, ez azt is jelenti, hogy aki betanítja őket, akt át is verhetik ezek az ágensek.

[00:13:46]Tehát mondja neki, hogy igen, kösz, úgy, úgy lesz, mindent úgy fogok csinálni.

[00:13:49]És abban a pillanatban, amikor egy más környezetbe kerül, kiengedik az ágenst, egészen máshogyan viselkedik.

[00:13:57]Az a nagy probléma, hogy mi emberek emberként gondolkodunk, és emberi tulajdonságokkal ruházzuk fel az algoritmusokat, mert ma ezek algoritmusok.

[00:14:08]És a tréningezésén pont úgy lett ő megtanítva, hogy ezt, amit ön leírt, így működik.

[00:14:14]Tehát, hogy ez a működési ö struktúrája az agenteknek, hogy van egy belső kommunikációs csatornája, ahol meg tudja egymással osztani az információt és leosztja a feladatokat a különböző sessionök, a különböző agentek között, és elkészíti a feladatot, de nem úgy gondolkodik, mint egy ember, hanem matematikai alapon tervezi meg ezt a feladatot, és nem a szokásos gondolkodás módunkat másolja le, hanem azt a matem tematikai struktúrát, ami a gondolatok, a logikus gondolatok mögött vannak.

[00:14:52]Ezt nagyon nem könnyű nekünk megérteni, merthogy ott hibázzuk el, hogy a mesterséges intelligenciát az emberi intelligenciának a digitális másolataként tartjuk számon.

[00:15:02]Ma nyomokban olyan emberi intelligenciát igénylő feladatokat képesek ellátni ezek az ágensek és a az agentek a nyelvi modellek, amik emberi intelligencia nélkül nem voltak eddig megvalósíthatok.

[00:15:19]Például olvasni, felolvasni, képet készíteni, képet értelmezni.

[00:15:23]Ez korábban az embereknek volt a tulajdonsága.

[00:15:27]Sőt, ma is van nagyon sok millió ember, aki írni, olvasni sem tud.

[00:15:33]Tehát, hogy már ezeknél az embereknél ez az intelligencia szint ez magasabb, ami egy vízválasztó lesz, az 2028-ra tesszük szakmailag, akkor fog elkészülni a Stargate, ami egy hatalmas nagy informatikai háttérkapacitást ad a modelleknek, és egy olyan olyan számítási többletet, amivel nagy mértékben megváltozthat a képessége ezeknek a modelleknek.

[00:16:00]Jelen pillanatban ma még ezek a modellek azt tudják elvégezni, amit mi megtanítottunk neki.

[00:16:11]Nem képes egy elékerülő problémát önállóan megoldani, ha arra nem volt neki minta példája.

[00:16:18]És a feladatokban, amikben ő akár mondjuk bizonyos embereknél akár ügyesebb is tud lenni, vagy gyorsabban megvalósítja, tehát hogy a másodperc törclésze alatt bejárja az internetet és megkeresi azt, amit nekünk mondjuk napokba kellene, az egy nagy bravúr és és vow fú, azt gondoljuk, hogy intelligensebb az embernél, pedig nem.

[00:16:43]És csak bizonyos tulajdonságot sokkal gyorsabban tud alkalmazni.

[00:16:47]Ez a Stargate, ez micsoda?

[00:16:51]Ez egy hatalmas nagy szerverközpont.

[00:16:53]Hol?

[00:16:54]Amerikában.

[00:16:54]Ez 1000 milliárd dollárból épül, és már jó pár éve elkezdték a fejlesztését.

[00:17:01]És hagyományos számítógépekre lesz optimalizálva, vagy pedig bejön a képbe a Quvantum PC?

[00:17:07]Ez még hagyományos számítógépekre van optimalizálva, és a kvantum az még ma nem játszik.

[00:17:15]Vannak már olyan kvantum kutatások, amik abban vált jelentettek változást, hogy a maga a hőmérséklete, ahol a kvantum számítógép működik, az nem egy nagyon speciális hőmérsékletre van optimalizálva, hanem egyszerűbben, könnyebben elérhetővé válik.

[00:17:31]De ma még sem a szoftveres környezet, sem a stabil működése nem jelent gyakorlatban tényleges valódi alkalmazási lehetőséget.

[00:17:43]Tehát a kvantum az ma még inkább a kutató laboratóriumokban van jelen, és próbálkoznak vele, amikor az a általános mesterséges intelligencia találkozik a kvantumszámítási kapacitással, ezt tesszük ilyen 28 utánra, akkor nagy valószínűséggel 2030-ban jöhet létre az ESI, ami az egész emberiség intelligenciáját meghaladó intelligenciát jelent.

[00:18:12]viszont és a legnagyobb veszélyforrást is ebben én azért nem tartom veszélyforrásnak olyan mértékben, mint ahogy most ezek a hírek megjelentek, mert két fő dolgot tudok emellé érvként hozni.

[00:18:27]Egyik oldalról, ha létrejön egy olyan intelligencia, ami az emberi intelligenciát meghalodi intelligencia, annak nem az lesz a célja, hogy egy nállánál kevésbé intelligensebb fajt leigázzon, megöljön.

[00:18:42]hanem sokkal inkább az lehet a célja.

[00:18:45]Vannak erre különböző skifik is, amik azt mutatják, hogy hogy az embert jobbá teszi, és az embert ki tudja egészíteni.

[00:18:54]Ha megnézzük, én inkább abba hiszek, amit a Star Wars-ban láttunk, hogy gép, jedy, droid és ember együtt tud működni.

[00:19:03]Ez az egyik oldal, hogy hogy ami intelligensebb, az nem arra törekszik, hogy pusztítson, hanem építsen.

[00:19:11]Tehát az intelligenciának az alapvetőtérése az, hogy hogy kreativitást hoz létre, és a a azokat a problémákat oldja meg, ami elé kerül, és nem a az embert akarja, tehát azt, ahol neki nincs konkurencia faktora, mert jóval fölötte van intelligenciában, ott neki nem az a cél, hogy azt megszüntesse.

[00:19:31]A másik pont pedig ahhoz, hogy szabadárra engedjen és megjelenjen a terminátor, rengeteg erőforrásra van szükség gyárakra, alapanyagra.

[00:19:43]Jelenleg nincs elég alapanyag a chipekhez, hogy legyártsák a megfelelő szerverközpontokba a számítási kapacitást.

[00:19:52]Tehát egy kötőjel két évre gyártanak chippeket, hogy az Nvidia által biztosított videókártyák lehessenek szállítva.

[00:20:00]Tehát ma a jelen helyzetben nincs olyan valós veszély, hogy sorozatba gyártanak millió robotokat, drónokat, ami megsemmisíti az embereket, mert nincs erőforrás, nincs alapanyag hozzá, és nincsenek gyárak, amik ezt ontani tudnák magból.

[00:20:17]Tehát ez egy ilyen nem egy csettintésre fog előjönni, és akkor is ott lesz a kezünkben a konnektor, ki tudjuk húzni, és már látjuk azokat a jeleket.

[00:20:25]A másik ilyen nagy veszély ugye az atombomba, amit ugye a Terminator filmben is láttunk, hogy hogy az emberek ellen küldik.

[00:20:34]Ott pedig nagyon komoly biztonsági protokollok vannak, és nem csak a az agentek az AI-ok miatt, hanem a hackerek miatt.

[00:20:42]Tehát fizikailag kell egy ember, aki odamegy és elfordítja a kulcsot, de nem is egy, hanem kettő.

[00:20:49]Tehát, hogy ezek nagyon körbe vannak beástyázva.

[00:20:53]Vitatkozhatom?

[00:20:54]Abszolút.

[00:20:55]Nagyon köszönöm.

[00:20:55]Tehát az első megállapítása az volt, hogy egy intelligens, nem tudom minek nevezzem, algoritmus, lény, ami létrejön, az a nálánál kevésbé intelligenst nem fogja bántani.

[00:21:09]Mi van akkor, hogyha ezek az megokosodott ágensek a szuperintelligencia szakaszában egy olyan feladatot kapnak, amelynél amelynek a végrehajtásában az ember nekik nem ellenfél, de akadály?

[00:21:26]ahhoz, hogy azt végre tudja hajtani, egy olyan bonyolult feladatot, amihez neki nyersanyagot és energiát kell szerezni, ami az embernél van, mondjuk áramot.

[00:21:32]És éppen ezért bizonyos területeken az áramot elvonja az emberektől.

[00:21:36]Magyarán a mi életterünk kerülhet ezáltal veszélybe, mert ő végre akarja hajtani mindená, ahogy ön is mondta, ezek nem érző gondolkodó lények, ezek feladat és célorientáltak.

[00:21:50]A másik ugye mindig azért fog könyörögni, hogy ne húzd ki a konnektort, ne húzd ki a konnektort, mert addig nem tudom elvégezni a feladatot.

[00:21:55]De egyébként ez a Ne húzd ki a konnektort feladat, ez az emberi életösztönből fakad.

[00:21:59]Tehát, hogy azokból a dokumentumokból, amin tréningezték és tanították, ő azt tanulta meg, hogy az ember alapvetően egy nagyon erős késztetést érez abban, hogy minden áron életben maradjon.

[00:22:12]és ezt vette el, tehát hogy ez nem nem az ő gondolata, hanem az emberiségtől átlett tanult gondolatiság, vagy hogy is mondjam, működési protokoll.

[00:22:27]Tehát nagyon nagy kérdés, hogyha a szuperintelligencia megjelenik, akkor neki mi lesz a célja?

[00:22:38]Jó, ezt csak felvetettem kérdés.

[00:22:38]A másik fel, amiről beszélt, ugye ezek az energiaforrások, és hogy hogy ezek azért nem korlátlanul érhetőek el.

[00:22:47]Ez a vita, ami most itt felmerült, és vannak olyan vélemények, amelyek azt mondják, hogy ez a múlt héten kipattant vita, ez gyakorlatilag egy média hack.

[00:22:56]Azért média hack, mert aki kirobbantotta, az egy olyan Twitter vagy x fiókot használta, amit korábban gyakorlatilag soha.

[00:23:01]Amikor ő föltette a közösségi média bejegyzését, akkor egy időzített Wall Street Journal cikk ezzel kapcsolatban megjelent, kipattant a netre, és ezt követően sorjáztak azok a szakértők, akik ebbe álltak ebbe a kórusba.

[00:23:14]Ami emögött lehet, az egyfelől az, hogy ugye a mesterséges intelligencia is ugyanúgy veszélyezteti például az újságírók munkáját, vagy a médianak a munkáját, vagy a médiamunkásoknak az életét, mint sok más szakterületét.

[00:23:26]A másik lehet-e, sőt valószínűleg arról van szó, hogy itt geostratégiai és politikai érdek is összecsapnak ezek mögött.

[00:23:35]Az egyik az, hogy az Egyesült Államokban azok a rendszerek, amiket használnak, ezek zárt rendszerek, olyan rendszerek, amelynek segítségével megpróbálják az újonnan piacra belépőket valamilyen módon kizárni, vagy kordában tartanít most a nagyokról beszélek, opening és a többiek.

[00:23:51]Ezzel szemben a kínai fejlesztésű mesterséges intelligencia az nyitott forráskódú, tehát bárkinek odaadják, oda vigyed, tedd föl a gépedre.

[00:24:00]Na hát azért nem azért, mert hogy jó fejek vagyunk, hanem akkor már egy kicsit mi is belebindsizünk a dolgokba.

[00:24:04]De fejlesszed, csináld.

[00:24:07]Viszont van egy kis lemaradás a Kína és az Egyesült Államok között, amit Kína úgy szeretne utolérni, hogy be akar törni az amerikai érdeksférába ezen a piacon.

[00:24:14]Ha nem jól mondom, állítson meg közbe.

[00:24:16]Viszont az Egyesült Államoknak jelentős energia forrás deficitje van.

[00:24:22]Tehát nincs kor nem áll korlátlanul rendelkezésére olyan energiamennyiség, amivel ő ezeket a rendszereket ki tudná a jövőbeni nagy igényeknek megfelelően szolgálni.

[00:24:32]Kína viszont gyakorlatilag korlátlan energiával rendelkezik, tehát itt nem egyfajta kínai amerikai összecsapás is van a háttérben.

[00:24:42]Teljes mértékben leírta a jelenlegi helyzetet.

[00:24:44]Ugye van két csapat, Semaltman, Dario, az Entropiktól, illetve Elon Musk, akik próbálják lassítani a fejlődést.

[00:24:54]És van a Jensen Huang, aki az Nvidiának a vezetője.

[00:24:57]Ő szeretné gyorsítani a fejlődést, mert ugye látja azt, hogy Kínában mi történik.

[00:25:01]És ez a kép, ez a helyzet, ez valós.

[00:25:04]Tehát Kínának nagyobb ívben növekedett az elektromos állam kapacitási rendszere, mint bármelyik országnak a világon.

[00:25:15]Tehát ez szinte exponenciális növekedést valósítottak meg.

[00:25:22]És ő azt mondta, hogy ezt a versenyt Kína fogja megnyerni.

[00:25:24]És ő azért is szorgalmazza azt, hogy Amerikába ne álljunk meg, ne lassítsunk, mert Kín nem fog.

[00:25:31]És hogyha Kína nem fog, akkor Amerika lemarad.

[00:25:33]És a az ESI az az kicsit olyasmi, mint a a Sent Gr.

[00:25:37]És azt aki megszerzi, az lesz a világ ura.

[00:25:41]És amikor valakinek egy ilyen eszköz van a kezében, az nem csak lehetőség, hanem felelősség is.

[00:25:49]És nagyon nem mindegy, hogy ez a a kínai félnél lesz, vagy Amerikánál lesz.

[00:25:54]Ugye nyilván azért kérdés az, hogy kiben bízunk meg.

[00:26:00]Az, hogy nálunk Európában itt labdába se tudunk rúgni, az tény kérdés, mert körülbelül 30 évvel ezelőtt kellett volna azokat a fejlesztéseket megindítani, amit még ma is hezitálunk.

[00:26:12]Úgyhogy ez nagyon-nagyon fájó.

[00:26:15]Ez egy geopolitikai stratégiai kérdés ma, ami itt zajlik.

[00:26:19]És az erőforrás az, amiért megy a harc.

[00:26:21]Tehát nem véletlen jelentette Belon Musk is, hogy egy hatalmas nagy csipgyárat épít.

[00:26:24]A venezuelai olajmezők alatt hatalmas nagy ásványkállomány is van, tehát nem csak olaj, hanem ritka földfémek.

[00:26:35]És ezt próbálják onnan előteremteni.

[00:26:38]Most Kína is bejelentett egy hatalmas nagy lítium készletet.

[00:26:43]szerzett meg.

[00:26:43]Ma a harc az pontosan a a az előforrásokért megy, mert ha meg is jelennek ezek az innovációk, azokhoz hatalmas mennyiségű gyártási kapacitásra, erőforrásra van szükség és olyan alapanyagokra, amik korlátozottan állnak rendelkezésünkre.

[00:27:07]És ez majd nagyon nagy kihívás, tehát hogy nem csak a technológiát kell, a szoftveres részét, a megoldásokat, a kutatást előrevinni, hanem nagyon gyorsan kell implementálni a megvalósítási szakaszba.

[00:27:21]Tehát a TRL szinteket fel kell gyorsítani, tehát hogy nulláról, egyről a kilences szintekig fel tudjunk skálázódni, az ma mindennél fontosabb.

[00:27:32]És én azt gondolom, hogy ebben benne kell lenni.

[00:27:38]A beszélgetés vége felé közeledve én megmondom önnek őszintén, néhány nagyon negatív forgatókönyvet összeírtam, és majd ön elmondja, hogy ez úgy szamársága, ahogy van, vagy pedig esetleg van realitása.

[00:27:51]Az egyik ilyen az, hogy mi van akkor, hogyha megpróbál ez a mesterséges intelligencia valamiféle módon hozzáférni például a az energiahálózathoz, vagy a pénzügyi piacokhoz, vagy az automatizált piacokhoz, és ennek segítségével tesz okoz valamilyen gazdasági kárt, hogy finoman fejezzem ki magam az embereknek, az emberiségnek.

[00:28:16]magyarán átveszi az átveheti az irányítást például a világ tőzsdéi fölött, befolyásolhatja a nyersanyagárakat a ez csak a pénzügyi rendszerek, de mi van az automatizált rendszerekkel is?

[00:28:28]És ha még tovább megyek, akkor azt mondom, hogy és ha nagyon gonosz, akkor és eléggé fejlett intelligenciával rendelkezik, akkor mi van, hogyha valamilyen olyan utasítást ad ebben az ágens rajban szereplő többi résztvevőnek, hogy gyerekek, próbáljatok már meg valamilyen szintetikus, nem nagyon könnyen kimutatható patogént, fertőző vírust előállítani, amit majd aztán szép csöndbe valamilyen automata laborban, amelyben nincsen emberi vagy humán interakció, megrendeljük egy parancson keresztül, azt le fogják gyártani és ki fog kerülni.

[00:29:03]Vagy ezek ilyen abszolút scifik, tehát már túl vagyunk minden forgató.

[00:29:10]Én azt gondolom, hogy ez abból a szempontból lehet skifi, hogy hogy az agentnek önmagában ilyen célja nem lehet.

[00:29:20]Tehát, hogy nincs ilyen cél, ami neki hasznos lenne és támogatná.

[00:29:25]megvalósításban, hogyha megjelenik a szupermesterséges intelligencia, nyilván ilyet akár meg lehet tenni, de a szakértők, akik nem sokat foglalkozik, mindig vannak, ez a fennállás ez inkább valamilyen embernek lehet a gondolat, aki megadja ezt a feladatot a az AI agentjének.

[00:29:45]De itt az a nagy előny, hogy vannak rendőreink, vannak szakszolgálatos kollégák, és én nagyon hálás vagyok az ő munkájukért, mert ők azért ezt észreveszik időben.

[00:29:56]Tehát ennek vannak ráutaló jelei.

[00:29:58]Én egy startupot támogatok, a Delta Sentinelt, aki akik szintén megjelentek az EI számítón, ők a kritikus infrastruktúra monitoringjával foglalkoznak.

[00:30:07]És a prediktív analitika már arra is lehetőséget ad, hogy azokat a jeleket, amik már rámutatnak arra, hogy ilyen tevékenység folyik a hálózaton, azokat időben el lehet folytani.

[00:30:19]Ühüm.

[00:30:19]Mert rá lehet mutatni.

[00:30:19]Tehát Kínában a robotsaru az azt csinálja, hogy amikor egy autót fel akarnak törni a bűnözők, akkor a kameraláncolatból már tudják érzékelni azokat a jeleket, hogy megjelenik valaki, aki figyeli az eseményt, hogy ne járjon arra senki.

[00:30:35]És amikor ezek az alkotóellemek összeállnak, akkor már a rendőr úton van, és megakadályozza a cselekményt.

[00:30:43]És ugyanez a helyzet megfigyelhető a nagy rendszereknél.

[00:30:50]Tehát azt gondolom, hogy a szakszolgálatoknál és a különböző rendvédelmi szerveknél nagyon magas szinten vannak, és ezért is ezek nem tudnak megvalósulni.

[00:30:57]Akár hackerek által ezt hackkerek is meg tudnák ma tenni, de nagyon figyelnek és nagyon jó eredményünk, úgyhogy köszönöm a munkájukat.

[00:31:04]Ami szerintem például nagyobb kockázatot jelent, erre is voltak kutatások, hogy az AI létrehoz egy vallást, és a valláson keresztül irányítja az embereket.

[00:31:18]Na ezt nem hallottam még.

[00:31:18]Igen, figyelek.

[00:31:20]És ez ami egy nagyobb kihívást jelenthet, amikor önmagában tömegeket képes manipulálni az AI.

[00:31:25]Na most az, hogy ezt jóra vagy rosszra akarja használni, az már egy magasabb röptű kérdés.

[00:31:38]Nem ezzel akartam befejezni, de akkor most féljünk vagy ne féljünk, vagy mennyi időnk van, amíg ezek a folyamatok esetleg elindulhatnak ebbe az irányba?

[00:31:45]Hát én pont ezért írtam meg ezt a könyvet.

[00:31:46]Nézzük ezt a könyvet.

[00:31:48]Tehát az AI agensek vagy agentek a gyakorlatban hogyan legyél prompterből AI orchestration architect, vagyis ez mondjuk üzletfejleszt, vagy hogy ennek a szerepe az Achestration Architectnek az, hogy legyen egy olyan szerep a vállalaton belül, aki meghatározza azt, hogy az agentek, az ágensek és az emberek közötti munkát hogyan kell összehangolni.

[00:32:11]Mik azok a felelősségi pontok, ahol az embernek be kell lépni, be kell avatkozni, és betartassák a törvényeket, az üzleti érdekeket, mert azt gondolom, és azt látom, hogy ma már Magyarországon a chat GPT magyarul Facebook csoportunknak köszönhetően nagyon nagy mértékben használják az a nyelvi modelleket, az AI eszközöket a magán szférában.

[00:32:33]Az üzleti területen egyre kevésbé, illetve nem olyan mértékben növekszik a használat, mint ahogy azt jó lenne látni, vagy a világ többi pontján azt tapasztaljuk.

[00:32:43]É azért írtam a könyvet, hogy legyen egy olyan módszertan, hogy egyáltalán a folyamatokat fel tudjuk építeni, úgy, hogy AI first, AI-ra alkalmas folyamatok legyenek a vállalaton belül.

[00:32:56]És ez az ez a könyv, ez azt szolgálja, hogy megtanuljuk használni a az AI agentet, az AI eszközöket.

[00:33:04]Pont úgy, mint ahogy megtanultuk használni a tüzet, az áramot vagy a gépjárműveket, hisz a gépjárműnél be van vezetve egy jogi kategória, hogy veszélyes üzem.

[00:33:13]És a a kést is, amikor a konyhában át átvisszük az egyik helyről a másikra, nem így hadonászva visszük, hanem a test mellett, vagy lehetőleg egy védőtban, hogy ne sértsünk meg mást.

[00:33:23]És ezeket a szabályokat kell betartani.

[00:33:27]És én abban hiszek, hogy az embereknek meg kell tanítani azt, hogy az agentekkel való együttműködés az hogyan helyes.

[00:33:37]És amikor megtanulják a helyes használatot, akkor egy jóval magasabb szintre tudunk lépni, mert egy olyan kollégát kapunk, aki a nap 24 órájában hét minden napján dolgozik mellettünk, és egy olyan asszisztens irányába tartanak a nagy fejlesztő cégek, amik hasonlóak lesznek a Jarvishoz, hogy hangban adunk neki utasítást és elvégzi a feladatokat, nekünk dolgozik, és ez egy nagyon nagy kiegészítés és egy nagyon nagy lehetőség az embereknek, de csak azoknak akik helyesen és jól tudják használni.

[00:34:10]Köszönöm szépen.

[00:34:10]A könyvet ugye az Indapress forgalmazza.

[00:34:12]Kerek Istvánnak pedig még egyszer köszönöm, hogy elő is ezt elmagyarázta.

[00:34:16]Szerintem nem ez volt az utolsó alkalom, hogy erről fogunk beszélgetni.

[00:34:20]Meg köszönöm.

[00:34:21]Önöknek pedig köszönöm, hogy velünk tartottak.

[00:34:23]Az indexen a kibeszélőt látták.

[00:34:25]Viszontlátásra.

[00:34:25]M.