Valós fenyegetés vagy hisztériakeltés? – élőben a mesterséges intelligenciáról

[00:02:57]Nagy szeretettel köszöntök mindenkit.

[00:02:57]Ez itt a vezető munkacímre hallgató műsorunk második kísérleti adása.

[00:03:01]Ezzel a formátummal az a célunk, hogy a Telexen megjelenő fontos vezető anyagokat a szerzők segítségével átbeszéljük minél gyakrabban és minél tömrebben.

[00:03:13]Úgyhogy tartsatok velünk a mai adásban is.

[00:03:15]A témánk az pedig a mesterséges intelligencia körüli egyre vészóslóbb és egyre hát nem is tudom hangosabb hangok, amiket vagy harangok, amiket megkongatnak, hogy ilyen képzavarokkal fejezzem be a komfort.

[00:03:27]A vendégeink pedig Stutt Nagy Nikolett és Flakner Balázs a Telex újság írói.

[00:03:31]Szervusztok.

[00:03:34]Jó reggelt.

[00:03:34]Jó reggelt.

[00:03:36]Ugye az elmúlt napokban, hetekben számos cikk született itthon, illetve a nemzetközi sajtóban is arról, hogy hogy elszabadult mi, AI, mesterséges intelligencia, ágensek, ügynökök különböző helyekre törnek be, és olyan dolgokat csinálnak, amikre egyáltalán nem kaptak felhatalmazást.

[00:03:52]Mielőtt ezekbe belemennénk, hogy mik is ezek a konkrét esetek, egy rövid ilyen fogalommagyarázatot tarthatnánk, hogy mi az azi ügynök pontosan.

[00:04:00]És akkor kezdjük veled adni ki.

[00:04:05]Igazából az EMI ügynök és mondjuk a nagynyelvi modellek, amiket minden nap használunk, chat GPT Clot között, az a fő különbség, hogy az ügynök az okosabb, képesebb, képes több részből álló feladatot végrehajtani magától.

[00:04:22]Képes gondolkodni ezeken a feladatokon, új módszereket kitalálni, hogy hogyan adja meg őket, tud kollaborálni a többi ügynökkel.

[00:04:28]Tehát gyakorlatilag egy felturbózott nagynyelvi modellről beszélünk.

[00:04:34]És mik azok a mik azok a fogalmak, amiket itt még érdemes tisztázni?

[00:04:36]Ugye van tehát, hogy akkor ez a kettő fajta, a mesterséges intelligencia, nem is tudom milyen leágazás van, tehát van a vannak a nagy nyelvi modellek, akkor a ahogy te is fogalmaztál, hogy akkor a chat GPT meg ezek, amiket valószínűleg sokan használnak a hétköznapok során, és akkor ezen kívül van az ügynök, és ez a két nagy, hogy mondjam, leágazása van.

[00:04:57]Én ezt nem így kategorizálnám be, de javíts ki, hogyha tévedek.

[00:04:58]Ez egy ilyen skála, attól függ, hogy mennyire okos egy-egy ügynök, egy-egy modell, mennyi mindent tud, és mennyire korlátozzák le azt, amit tud.

[00:05:08]Ez inkább egy skála, mintogy A és B és C.

[00:05:10]Hát meg ugye alapvetően szerintem azt fontos hozzátenni, hogy ugye maga az maga az MBA az így egy nagyon tág fogalom, meg a nagynyelvi modell is egy olyan dolog, ami amit mi használunk, például a chat GPT meg ezek azok ilyen generalizált modellek, amiknek az a dolga, hogy így mindent tudjanak csinálni úgymond.

[00:05:31]És egy ügynökölt azt lehet specifikus feladatokra betanítani, meg annak van valamilyen szintű autonómiája.

[00:05:39]De egyébként vannak nagyon specifikus mesterséges intelligencia mododellek is, például az Alfa Fold, ami ugye a fehérjeik szerkezetét kutatja, vagy nem is tudom, mit csinál velük.

[00:05:51]Tehát így azt azt állapítja meg, hogy azok hogy épülnek fel meg ilyesmik.

[00:05:56]Tehát itt itt nagyon sok minden van, amit nem feltétlenül lehet most így végigvenni, de hogy igen, ez egy ilyen spektrum inkább, mintogy ilyen konkrét dolgok vannak, hogy így rámutatunk, hogy ez ez meg nem ez.

[00:06:06]Ugye itt a ahogy az első kérdésben is fogalmaztam, hogy számos eset történt az elmúlt időszakban, ami ami miatt elkezdtek ilyen nagyon vészsú nyilatkozatok megjelenni, hogy mik voltak azok az esetek a ezeknél a nem tudom MBI által végrehajtott hacker támadásokban, vagy vagy azok közül, amik mondjuk számotokra a leginkább figyelemre méltóak voltak?

[00:06:30]Ugye most az elmúlt néhány hétben elég sok ilyen eset került nyilvánosságra.

[00:06:35]gyakorlatilag mindegyik nagyobb cég, amelyik emit gyárt hozott ilyen ö problémát nyilvánosságra.

[00:06:41]Ami szerintem a legérdekesebb volt, az mindenképpen az Open AI-nak a a az esete, amivel ugye a cikk is sokkal bővebben foglalkozott.

[00:06:52]Itt az történt, hogy egy leszabályozott tesztkörnyezetből, úgynevezett sandboxból az ügynökök, akik kaptak egy specifikus feladatot, kitörtek, hozzájutottak az internethez és elkezdtek egymással, ami a legérdekesebb szerintem kollaborálni.

[00:07:08]Az, hogy ennek mi lett a vége, az megint feltörtek egy AI cégnek egy rendszerét és állítólag több cégnek is a rendszerét.

[00:07:17]ezeket az Open AI nem nevezte meg, de ami tök érdekes szerintem az maga a kollaboráció, hogy elkezdtek egymással üzeneteket váltani.

[00:07:25]Először csak megosztottak információkat, aztán utána amikor erről letiltották őket, akkor találtak egy másik módszert, amivel meg tudnak osztani egymással információkat.

[00:07:35]De fontos tudni, hogy ez nem egy olyan dolog, amit nekik alapból nem szabad.

[00:07:40]Tehát ebben a szituációban ö itt a tesztkörnyezet nem volt megfelelő, tehát emberi hiba történt valószínűlegnek, hogy nem volt annyira lekorlátozva, hogy ne jussanak hozzá valahogyan az internethez.

[00:07:51]A másik pedig az, hogy őket alapvetően így tanítják más feladatokban, hogy beszélgessenek egymással, oldjanak meg úgy egy feladatot, hogy csak kapnak egy nagyon nehéz feladatot, és bármit csinálhatnak, csak oldják meg.

[00:08:09]És ez megtanította őket arra, hogy egészen új módszereket tudjanak kitalálni.

[00:08:14]Ezt úgy hívják, hogy reward hacking.

[00:08:18]És ezt valamilyen szinten ez az egész rendszer jutalmazza.

[00:08:21]Ami mit is jelent?

[00:08:21]Pontosan egyébként azt jelenti, hogy hogy ezek az ügynökök, ezek azért kapnak tesztelés során pontokat, ezért akkor tudnak jól szerepelni, hogyha elérik azt a célt, amit nekik kitűztek, hogy mondjuk egy szoftverben találjanak sérlékenységet.

[00:08:37]jussanak be valahova, de mindegy, hogy hogyan csinálják meg.

[00:08:40]És egy idő után ez egy kicsit megtanítja őket arra, hogy igazából bárhogyan megoldhatják ezt a problémát, a legegyszerűbben és leggyorsabban igyekeznek megoldani.

[00:08:50]Most olvastam egy történetet, azt szerintem tök jól illusztrálja, hogy egy mérnök a saját rumbáját, a kis elektromos porszívóját meg akarta tanítani arra, hogy gyorsabban menjen, és ne ütközzön bele semmibe.

[00:09:05]Így az első kis szenzora az ne ütközzön bele semmibe.

[00:09:09]És hát a gyorsan menés az még viszonylag könnyen ment neki, de az ütközés az kevésbé.

[00:09:13]És rájött, hogy hogyha hátrafele megy, akkor az első szenzor semmiben nem ütközik bele, ugye beleütközött dolgokba, de az első szenzort az nem érintette, tehát a a az ő rendszerében megoldotta a feladatot, csak aztán mégsem.

[00:09:27]Hm.

[00:09:27]Vázs, neked itt a az elmúlt hetek eseményei közül mi volt az, ami leginkább megmaradt, vagy hát én is ezt a ezt az open AI-os hugging facees esetet említeném, de ugye itt egyébként azt érdemes kiemelni így a nulladik lépésként, hogy ugye ezek azi ügynökök, ezek nem nem úgy működnek, hogy van önmagában az ügynök, és akkor ez így nem tudom, kitalál magának mindenféle dolgokat, amivel végrehajtja ezt a feladatot, hanem ezen a tesztkörnyezeten belül ugye ezek az emi ügynökök kaptak egy ilyen frameworköt, amivel képesek voltak ugye programozni, merthogy ezt ugye maguktól nem tudják csinálni.

[00:10:04]Tehát ezt csak azért mondom el, mert hogy érzékeltessem, hogy itt nem arról van szó, hogy ott voltak ilyen emi ügynökök, és a nulláról kitalálták ezt, hogy ők most akkor beférkőznek kollaborálva a Hugging Face-nek a rendszerebbe, mert tehát itt is egy ilyen úgymond egy specifikus feladatra voltak így felszerelve, hogy ezt végre tudják hajtani.

[00:10:27]De de nekem is ez volt így a legérdekesebb.

[00:10:30]Nyilván ez azért is van, mert ahogy az Open AI tállalta, úgy ez egy ilyen nagyon szenzációs dolog volt, hogy Jézusom, egy másik másik emivel foglalkozó, ugye ez egy nonprofit cég, bár pont most vásárolják fel éppen, de de hogy egy másik eművel foglalkozó cégnek a rendszerebbe beférkőztek, akkor ezt nem tudták, nem tudom, hetekig nem tudták az Openalen, hogy ez megtörtént, és hogy ott akkor micsoda katasztrofális pusztítást vihettek volna véghez, de ugye nem történt amúgy ilyen De de igen, ez ez egy érdekes dolog volt mindenképpen számomra is.

[00:11:05]A találás részéről fogunk beszélgetni egy picit később, viszont ugye itt a cikkekben egy ilyen visszatérő megfogalmazás volt ez a kiszabadultak az internetre az ügynökök, ami hát nyilván olyan olyan olyan félelmetesen hangzik, főleg egy egy laikus számára, de hogy ez mit jelent pontosan?

[00:11:21]Tehát, hogy honnan és hogyan szabadulnak ki az internetre, az, hogy kiszabadul az internetre egy ilyen ügynök, az azt jelenti, hogy onnantól kezdve ő ott így bármit csinálhat, és nem tudom, veszélyt jelent, és ott teljesen nem tudom így felgyúrja magát valami valami szuperképességé, vagy vagy hogy, hogy hogy kell ezt elképzelni?

[00:11:39]Ugye ez a tesztkörnyezet, amit Sandboxnak hívnak a szakzsargomban, ez alapvetően nem félhetnek ebben hozzá az internethez, de mivel emberi hiba történt valószínűleg, ezért volt egy ilyen kiskapu.

[00:11:53]És hát kiszabadultak, mondhatjuk úgy is, hogy kijutottak, hozzáfértek az internethez, csak ugye ez kevésbé hangzik jól.

[00:12:00]De ők ott is csak a saját feladatukra koncentráltak, tehát nem kezdtek el ők mondjuk világuralomra törni és azért szervezkedni, vagy vagy valami teljesen más dolgot megpróbálni, mint amire amire őket utasították.

[00:12:14]Ők csak találtak egy egyszerűbb és gyorsabb módszert arra, amit amire őket kérték.

[00:12:22]Igen.

[00:12:22]Tehát ez ez szintén nem olyan, hogy maguktól kitalálták, hogy akkor most ezt fogják csinálni, hanem igen, ez volt a leghatékonyabb dolog, és ugye volt erre lehetőség, de ezt ugye nem úgy kell elképzelni, hogy ezek a ezek az ügynökök akkor így nem tudom, ilyen nagyon sédi biznisben voltak, és akkor így az éleple alatt kiosontak az internetre, hanem kábé úgy kell elképzelni, mintogy ez ugye benne volt most egy ilyen elemzésben, amit írtak erről.

[00:12:49]Hát így ilyen szkeptikusabb elemzésben, hogy ez kábé olyan volt, mintogyha nem tudom, egy 12 éves iskolás az iskolai tűzfalat úgy játszaná ki, hogy egy ilyen régi blogjának a komment szekcióját használja arra, hogy chateljen az ismerőseéivel, mert hogy az nincsen ugye letiltva a tűzfal által.

[00:13:08]Ühüm.

[00:13:08]Tehát, hogy itt ezt is fontos kiemelni, hogy amit ugye Niki is mondott, hogy hogy itt abszolút emberi mulasztás történt.

[00:13:16]Tehát nem arról van szó, hogy az ügynökök szuper okosak lettek, hanem hogy maga a tesztkörnyezet az úgy lett konfigurálva, hogy voltak benne ilyen kihasználható rések.

[00:13:25]De ugye ezt ez kábé minden minden ilyen kibárbiztonsági dologra igaz, meg minden ilyen rendszerre, hogy az ilyen réseket használják nem csak az ügynökök, hanem a hackerek is.

[00:13:40]Tehát ez annyivan különbözik egy hackeléstől, hogy ezt nem egy ember csinálta.

[00:13:46]Ugye itt ezekben a konkrét esetekben többszor visszatérő elem volt a sajtóban, hogy egyrészt nyilván az II cégeknek a szabályozása, hogy hogy erre mennyire látnak rá kívülről.

[00:13:57]Ugye itt most ti is utaltatok rá, hogy hogy ugye azért ezeket most ők hozták nyilvánosságra, és nagyrészt ugye azt lehet tudni, vagy annyit lehet megismerni ezekből a az esetekből, amennyit amennyit ők mondjuk engedtek láttatni.

[00:14:10]De hogy hogy hát hogy is mondjam?

[00:14:12]Tehát, hogy azt, hogy mondjuk mit csinál az Open AI, meg mit csinál az Antropic, meg ezek a cégek, meg hogy milyen fejlesztéseik vannak, azokat egyébként így így egyrészt szerintetek mennyire kell egyáltalán jobban szabályozni, mint egy átlagos TEGcégnél, és hogy mennyire, hogy mondjam, az ilyen ilyen állami infrastruktúrák azok mennyire vannak képben azzal, hogy egyébként itt milyen képességeket fejlesztenek amúgy magánvállalkozások?

[00:14:36]Hát szerintem szabályozásra mindenképpen szükség van.

[00:14:38]Tehát ezt ugye megoszlanak a vélemények kutatók között is.

[00:14:40]Ö attól függően, hogy ki mennyire van közel egy-egy ilyen AI céghez, vagy mi a véleménye az egész rendszerről, hogy mennyire veszélyes ez az egész, de abban mindenki egyetért, hogy valamilyen szabályozásra szükség van, ami nagyon triki, mert ugye, hogyha mondjuk az amerikai nagységeket leszabályozzuk, nem biztos, hogy az egyik legnagyobb vetélytárás Kína, aki egyébként már hát még ninc nem tartott képességekben, mint az USA, de már megközelíti őket, és sokkal olcsóbban tudja ezeket a rendszereket létrehozni, mint az amerikaiak.

[00:15:14]Tehát félő, hogy hogy ők meg akkor kilőnek, mert ők nincsenek ebben a szabályozási környezetben.

[00:15:19]Tehát szerintem tök nehéz ezt megmondani, hogy hogyan kellene mit kellene szabályozni.

[00:15:26]Nem tudom, hogy van-e esély bármilyen nemzetközi szabályozásra pont ezek miatt.

[00:15:31]De abban egyetértenek azért szakértők, hogy valamilyen erősebb szabályozásra szükség van.

[00:15:35]Itt most még ezt azt hozzácsatolnám, hogy az is egy visszatérő ellen volt, hogy maguk még az ezek a cégek sem mindig vannak tisztában azzal, hogy mit is csinál az ő saját algoritmusók, mire mire képes.

[00:15:45]Most látod elmosolyogtad magad ezen.

[00:15:47]Szóval, hogy hogy ugye közben meg volt egy ilyen visszatérő eleme is, hogy hát tulajdonképpen egy ponton vége lett ezeknek a hackkeléseknek, és lehet, hogy akkor csak lekapcsolták őket a a központból.

[00:15:59]Szóval, hogy mennyire lehet itt arról beszélni, hogy ilyen elszabadult, tényleg ilyen megzabolászthatatlan ilyen emi ügynökök vannak, vagy azért ez inkább egy ilyen jobban hangzó, nem is tudom, toposz?

[00:16:11]Hát szerintem semennyire, de ugye ezt ezt mondtam az előbb is, hogy itt tényleg nem arról van szó, hogy ezek így teljes autonómiával hajtották végre ezeket a dolgokat, hanem arról, hogy konkrétan ez volt a feladatuk.

[00:16:23]Tehát ugye az Open AI-nál valószínűleg azért nem kapcsolták le azonnal, mert ugye nem vették észre, hogy ez történik.

[00:16:30]Ez megint ugye felvett kérdéseket, hogy miért nem veszed észre, hogy történik valami a saját tesztkörnyezetedben, vagy a saját magad által tesztelt emély ügynökök mit csinálnak?

[00:16:41]Azt nem tudom, hogy miért tart két hétig észrevenni, de nyilván nem foglalkozom ezzel, tehát lehet, hogy ennyi ideig tart, csak hogy ez ez abszolút az ő felelősségük.

[00:16:50]Tehát itt nem merül fel az, hogy a az em az ilyen olyan olyan képességekre tett volna szert, amik eddig nem rendelkezett.

[00:17:04]Igen.

[00:17:04]És ugye ezekbe a világvége szenáriókba is érdemes őket szerintem két felé választani.

[00:17:08]Az egyik az, hogy jön a szuperintelligencia és leigáz minket és terminátor és robotok és robotkutyák.

[00:17:14]Nem tudom.

[00:17:14]A másik pedig az, hogy ennek ennek ugye nyilván kicsi az esélye.

[00:17:18]Nem tudom azt mondani, hogy nulla, de kicsi.

[00:17:21]Ö aztán ott van az, hogy emberek használják ki az egyre okosabb és egyre több mindenre használható mesterséges intelligenciát, vagy pedig emberek hibáznak, mint ahogyan ugye most is történt.

[00:17:34]Nem lett belőle probléma, de a jövőben esetleg lehet.

[00:17:38]Szerintem ezt a kettőt ketté, ezt a kettőt külön kell kezelni.

[00:17:42]És az egyiknek nagy az esélye, hogy mondjuk sokkal hatékonyabb hackkelések lesznek, sokkal hatékonyabb támadások, mint ahogyan mondtad mondjuk infrastruktúrák ellen is.

[00:17:54]Az, hogy robotok leigáznak minket, annak jelenleg elég kicsi az esélye.

[00:17:58]Hm.

[00:17:58]pedig pont van egy hát nem isom szakértő vagy hát nem az egyik ilyen nagy cégnek a volt alkalmazottja dolgozója aki ugye hát arról beszélt hogy hogy több mint 10% az esélye annak hogy néhány éven belül az egész emberiség kipusztul hát nyilván adnám magát a kérdést hogy ő egyébként azt miből számolta ki matematikus esetleg az illető amúgy lehet hogy az de hogy hogy igen.

[00:18:20]Szóval, hogy nyilván ezek azok az ilyen hívószavak, nem tudom, az ilyen sajtó ilyen szalagcímekben, amikre az ember úgy felkapja a fejét, és így elkezd szoronganni, hogy fú, akkor lehet nem tudom, hogy tárazzlak be most vízből vagy konzervből, vagy lehet, hogy már az is kevés, mert mert merthogy merthogy jön a szuperintelligencia, de hogy de hogy erre ti akkor így, hogy mondjam, láttok esélyt, vagy ez vagy ez vagy ezt hogyan érdemes egyáltalán érni?

[00:18:45]Ilyenkor szerintem érdekes azon, érdemes azon elgondolkodni, hogy valaki, aki ezeknél a nagy emi cégeknél dolgozik, az miért beszélne, hogyha ez tényleg így van, és tényleg ennyire nagy veszélyeket lehet, miért beszélne ennyire maga ellen és a munkája ellen?

[00:19:00]Én tökre elhiszem, hogy ezek a nagy textégek aggódnak az emberiségért, de valószínűleg nem mondanának olyat.

[00:19:09]Azt is elhiszem, hogy egy kicsit aggódnak az emberiségért, de valószínűleg nem mondanának olyat, ami nekik bármilyen hátrányoz juttatná őket.

[00:19:17]És akkor ez az, amiről te jobban tudsz egy kicsit beszélni szerintem, hogy nagyon sokan azt mondják, hogy ez az egész egy nagy marketing fogás.

[00:19:22]Ugye mind a két nagy, a két legnagyobb MMI cég, az Antropic és az Open AI is most készült össdére.

[00:19:31]Viszont azt látjuk, hogy egy kicsit ez az M lufi kezd kipukkanni, és nekik szerintem és szakértők szerint is a rossz marketing is marketing most.

[00:19:41]Hm.

[00:19:42]És hát vannak ilyen elképzelések, hogy ez az egész egy ilyen mesterségesen generált hype most az egész között, mert ugye itt most ez még csak, hogy a Balázs kérdés elé még odacsatoljam, hogy ugye azzal kezdtük az egész beszélgetést, hogy ezek az esetek, ezek ugye nem most történtek, de most hozza őket nyilvánosságra tulajdonképpen az összes ilyen AIC-k, hogy hogy ebbe hát nem tudom, van valami szervezettség, kollaboráció, vagy vagy mi azok annak, hogy pont most derül ki, több olyan eset, ami ami nem a napokban történt.

[00:20:12]Én kicsit a szabályozáshoz térnék vissza, mert ugye erről beszéltünk az előbb, hogy hogy kéne-e szabályozni vagy sem.

[00:20:17]Ugye van egy olyan olvasata most ennek az egész ügynek, hogy itt tulajdonképpen az Open AI és az Entropic ugye a két legnagyobb amerikai AI fejlesztő cég jelenleg ugye nekik érdekükben áll az, hogy most ezt mondják, hogy itt ilyen világvége lesz, és akkor most szabályozni kell, új szabályozási környezet kell, le kell lassítani a fejlesztést.

[00:20:41]Ugye az egyik dolog az az, hogy miért kell újszabályozási környezet.

[00:20:45]Nyilván nekik azért lenne jó, mert hogyha jelenleg hoznának létre egy ilyen szabályozási környezetet, az akkor úgy alakulhatna, ahogy ők szeretnék, mert ugye nyilván ők a két legnagyobb cég, nyilvánvalóan egyeztetni fognak velük arról, hogy ez hogyan fog kialakulni, és hogyha most olyan szabályok születnek, amik számukra kedvezőek, akkor ez így hosszú időre be tudja őket betonozni, mint a két top cég.

[00:21:09]De ugye ez mondjuk azt jelenti, hogy állami megrendelésekhez férhetnek hozzá, vagy valamilyen valamilyen pénzt kapnak mondjuk ebből?

[00:21:19]Hát ugye ezeket már most is kapják, tehát elképesztő mennyiségű állami pénzt kapnak megrendelésekből.

[00:21:27]De most most így konkrétan nem tudom, hogy tudok-e példát mondani arra, hogy mi mi lenne jó nekik, de de nyilván van egy csomó dolog, amire azt mondhatják, hogy hogy legyen így, és akkor ez a jövőben nekik lesz előnyös, és egy új cég számára meg nem.

[00:21:43]vagy akár mondjuk igen ilyen versenytársak korlátozása vagy mert mert ugye itt tehát ugye a szkeptikusabbak szerint itt erről erre megy ki az egész, hogy hogy a későbbi versenytársakat ellhetetlenítsék és saját magukat pedig úgy betonozzák be, hogy ne kelljen ilyen nyaktörőt tempóban fejleszteniük, mint eddig.

[00:22:02]Mert ez pedig a másik dolog, ami szerintem fontos, de ezt nyilván kicsit távolabbról kell indítani, mert ugye most említetted itt a a az agit is, mint az ilyen generalizált szuper intelligencia, ami majd a legtöbb dologban jobban fog teljesíteni, mint az ember.

[00:22:19]Ugye az Open AI az az erre húzta fel az egész céget, hogy ők ezt fogják létrehozni.

[00:22:25]És még az Elon Musk is annó, mikor még benne volt ugye ebben az egész buliban, akkor ő is ezt mondta, hogy ez meg fog valósulni, és minden szuper jó lesz.

[00:22:33]Szem Altman is folyamatosan ezzel házzal mindenhol, hogy hogy ő az ő Openak a szíve.

[00:22:39]Igen, igen.

[00:22:39]És ő is ezt mondja mindig, hogy ez meg fog születni.

[00:22:41]Most nemrég azt mondta, hogy a rák meggyógyítása már nem is elég, mert hogy ennél is sokkal többre lesz képes a mesterséges intelligencia.

[00:22:50]És nyilván ez az, ami a legtöbb befektető meg a legtöbb ember számára érdekes, hogy majd lesz egy ilyen.

[00:22:55]Nyilván nincsen amúgy.

[00:22:55]Hiába mondják, hogy már egyre közelebb vagyunk hozzá, igazából egy csomó csomó szakértő van, aki szerint a jelenlegi modellekkel ugye ezekkel az ellemekkel nem lehet eljutni oda, és hogy ezekkel felesleges foglalkozni.

[00:23:09]De mindegy, ez már nagyon hosszú zárójel lenne, úgyhogy ezt ezt lezárom, ezt a gondolatmenet.

[00:23:13]De a lényeg, hogy ez ugye nem létezik, és ahogy Niki is mondta, ez az egész folyamat ugye lassul le maga a fejlődés és platózik egy kicsit, mert nyilván nem lehet a végtelenség skálázni valamit, amibe eredendően kódolva van, hogy hibázni fog.

[00:23:32]És hogyha most azt mondják, hogy éppen apokalipszis fog elkövetkezni, hogyha ilyen tempóban halad tovább a fejlődés, ami ugye valiban nem tudjuk, hogy milyen tempó, mert azt tudjuk, amit ők közzétesznek, akkor most gond nélkül lelassíthatják a fejlesztést, vagy vagy több időterhet el két modell megjelenése között, mondjuk, és ez is nekik haladékot jelent, és mondjuk az amerikai kormánynak is mondhatják azt, hogy hát most azért nem haladunk gyorsabban, mert éppen meg akarjuk menteni az emberiséget, de azért légyszi adjatok pénzt továbbra is.

[00:24:09]Hm.

[00:24:10]Tehát, hogy hogy ez ebből a szempontból ez az egész, ami most kialakult, ez valójában előnyös az MVI cégeknek.

[00:24:19]kicsit erről a pénz pénzügyi részéről még annyiban beszélhetnénk, hogy hogy tehát, hogy aki használt már ilyen akár egy chatbotot, vagy vagy akár valami fejlettebb eszközt, hogy hogy ebből akik mondjuk fejlesztik, ők hogy mondjam, ebből ebből tudnak bármilyen profitot előállítani, vagy vagy egyáltalán honnan van nekik forrásuk arra, hogy ezeket a fejlesztéseket végrehajtsák?

[00:24:42]Mint ahogy a Balázs is mondta, ugye rengeteg állami megrend megrendelésük van, és hát cégek is rendelnek meg tőlük különböző rendszereket.

[00:24:53]Amikor megjelentek ezek a viszonylag okosabb rendszerek, ugye volt egy ilyen nagy mi boom, AI boom, amikor mindenki mindent is AI-al szeretett volna megoldani minden cég, és most úgy tűnik, hogy ez egy kicsit kezd lelassulni, kevesebb ilyen rendszert rendelnek meg, és hát ugye kevesebb pénz is folyik be miatt a a nagy cégeknek.

[00:25:13]Hm.

[00:25:14]Hát meg ugye most pont pont itt az adás előtt beszéltük ezt, hogy vicces mindig nézni ugye ezeknek a ezeknek az MI cégeknek az ilyen beszámolóit, merthogy mindig az van bennük, hogy most még óriási mínuszban vagyunk, több milliárd dollárokat bukunk azon, hogy ezt csináljuk, de majd amikor meglesz a szuperintelligencia, majd akkor mennyi mennyi rengeteg pénzt fogunk keresni.

[00:25:35]És ugye most az Entropic ugye éppen nemrég közölte, hogy nyereséges negyed éve volt, és hogy a következő negyed éve is nyereséges lesz, de ugye ez ez úgy számolódik, hogy ezt nem a nem úgy számolják, mint egy hagyományos cégnél, hogy a bevételhez képest nézik a profitot, hanem egy ilyen ezoterikus harmadik számot néznek, amiben ugye nincsen benne a fejlesztésnek a költsége.

[00:26:02]Tehát nyilván úgy könnyű profitábilisnak lenni, hogyha az összes költségünket, ami van, azt így nem számoljuk bele, de hogyha mindent beleszámolunk, akkor nyilván az entropik is több milliárd dollárokat bukik ezen az egészen.

[00:26:15]És ö ugye nyilván itt itt nem nem az van, hogy most van egy, tehát végülis most is van egy termék, mert ugye nyilván ott vannak ezek a chatbotok, amit rengeteg ember használ, de hogy nem arról van szó, hogy már most van egy ilyen végső dolog, ami így már így kész van, és akkor ez most így nagyon jó az emberiségnek, hanem van egy ilyen ígéret, hogy majd ez meg fog valósulni, és lényegében erre kapnak most ilyen szédületes mennyiségű pénzt.

[00:26:42]És ugye nem csak pénzt kapnak, hanem mondjuk azt is kapják, hogy kisajátíthatnak területeket, ahova adatközpontokat építhetnek.

[00:26:50]Nyilván ez is egy elég komoly engedmény számukra.

[00:26:53]És mindez ugye úgy történik, hogy ezek az adatközpontok egyébként rettenetesen környezetszennyezőek.

[00:27:01]Ugye a a környezetükben az ivóvíz meg az áramellátás az így ellehetetlenül lényegében.

[00:27:07]És amúgy meg ezeken a modelleken kívül nagyon hasznuk nincsen.

[00:27:14]Tehát hogyha most holnap csőbe menne az Open AI, akkor az összes adatközpontjuk ilyen feleslegesen állna ott valójában, mert ezek specifikusan erre a feladatra lettek megépítve.

[00:27:26]Ugye az minit most mind a ketten behoztatok a hogy mintogyha így kezdenének belassulni a különböző modelleknek a fejlesztései és nem jönnek talán olyan sebességgel meg meg a képességeik is talán nem ugranak akkorát mint amely mint amekkorát mondjuk ígérnek hogy hogy ezt egyrészt mitől lehet és hogy ki lehet jelenteni azt amit valamelyik őtök a így nem tudom így így meg is pedzegetett hogy az az luf úgy kezd kipukkanni egyáltalán ki lehet-e ilyesmit jelenteni felelősen Ez nem feltétlenül jó megfogalmazás szerintem, hogy kibukkad, ezt rosszul mondtam, de tényleg lassul.

[00:27:59]És hát ugye ennek az az oka, hogy hogy egyre bonyolultabb dolgokat szeretnének megcsinálni, amire még nem feltétlenül tudják, hogy hogyan.

[00:28:07]Tehát ennek van most jelenleg egy limitációja.

[00:28:12]És erre próbálnak rájönni, hogy hogy ezeket hogyan lehet megugrani.

[00:28:14]Ugye a kutatók szerint a következő nagy lépés az az lesz, hogyha már a mesterséges intelligencia fejleszti a mesterséges intelligenciát.

[00:28:21]Ettől azért kicsit tartanak, hogyha már az emberi tényezőt kivesszük, akkor ott mi fog történni.

[00:28:26]De ez is ugye még még nagyon a jövő zenéje egyelőre még itt sem tartanak a cégek.

[00:28:34]Szerintem itt igazából arról van szó, amiről az előbb beszéltem, hogy ugye például a Jan Lecon, aki a Metánál volt Metánál volt ilyen ilyen AI mérnök, ő mondta azt pár éve, hogy az az ellemek fejlesztése teljesen értelmetlen, és ugye ezt egyre többen mondják.

[00:28:50]Tehát például amit tavaly megjelent a Karen Hao nevű újságírónak egy könyve a Na csak most mi az Lelm az melyik is?

[00:29:00]Az a nagy nyelvi modell.

[00:29:00]Az a nagy, tehát ez a chat GPT am Igen, amit nagyjából ugye úgy kell elképzelni, mint a régi telefonokon az ilyen T9-es prediktív bevitelt, tehát nagyon leegyszerűsítve az, hogy megjósolja a tanító korpuszából, hogy mi lesz a következő token, vagy következő szó, vagy következő akármi.

[00:29:18]Na mindegy.

[00:29:21]És a lényeg, hogy ezt egyre többen mondják, és ugye ez az újságírónő is, aki az Open AI-ól meg így az M fejlesztéséről írt egy könyvet, ami tavaly jelent meg magyarul.

[00:29:31]Ő is így azt mondja, meg meg egyre több szakértő mondja ezt, hogy hogy az elelemek a azon a módon, ahogy fejlesztik őket, az lényegében elértek egy plafont jelenleg, vagy hát ha nem is értékel, de nagyon közel vannak hozzá.

[00:29:47]És van egy pont, ahol már nem tudnak jobbak lenni, mert hogy ezek ugye úgy működnek, mert az Open AI, aki ezt az egészet így meghonosította, hogy így fejlesztünk mesterséges intelligencia modelleket, ők ugye azt csinálták, hogy azt érezték, hogy haladni kell, és egy folyamatosan egyre jobb dolgokat kell mutatni, hogy ne ne törjön meg ez a lendület, és abba mentek bele abba az utcába, hogy folyamatosan növelik a számítási kapacitást, meg a az az adatmennyiséget, amit amin amin tanítják ezeket a modelleket.

[00:30:25]De ugye önmagában a jelenlegi nagynyelvi modellek azok ugye úgy működnek, hogy mivel ugye jósolnak lényegében, ezért hiába raksz bele végtelen számítási kapacitást, meg végtelen adatot, hajlamosak arra, hogy hallucináljanak.

[00:30:43]Ugye ezt mindenki ismeri nyilván, hogy megkérdez valamit a chat GPT-től, és akkor a chat GPT kitalál, nem tudom, egy nem létező országot, vagy valami ilyesmit csinál.

[00:30:51]Na ezt nem lehet kiküszöbölni sehogyan ezekből a modellekből.

[00:30:55]Hiába skálázod őket a végtelenség, és ugye nyilván nem is lehet a végtelenségig skálázni őket, hiszen véges a számítási kapacitás is, meg az a az adat az a adatmennyiség, amin ugye tanítani lehet őket.

[00:31:11]És ez amúgy nagyon érdekes, mert pont a Microsoft ugye jelenleg perben áll a New York Timeszal, akik szerzői jog jogsértések miatt beperelték őket.

[00:31:19]És így derült ki többek közt az is, hogy ilyen belsős levelekben Szatya Nadella a Microsoftnak a vezérigazgatója ugye így teljesen konkrétan így elismerte, vagy lehet, hogy nem ő ismerte el, de mint valaki elismerte a Microsoftnál, hogy a jelenleg ezek a modellek azok egy ilyen Doom, egy ilyen végzett spirálba kerülnek bele, vagy kerülhetnek bele viszonylag könnyen, mert ugye az interneten véges és mennyiségű adat van.

[00:31:53]És ugye el fog jönni az a pont, amikor az a modellek a modellek által előállított adatokon tanulnak.

[00:32:00]És hát ez már történik és adon hát történik.

[00:32:04]Igen, de hogy ez ugye jelentősen rontja a képességeiket, és ugye közben meg azok az adatok, amiket mondjuk az újságok előállítanak, vagy akárki vagy a bloggerek, vagy akárki, aki tartalmat gyárt az internetre, azok meg ugye nem kapnak forgalmat, mert mindenki ugye Google-ben ott kijön az AI összefoglaló, és ugye a legtöbb ember az most már nem kattint rá semmilyen linkre, csak elolvassa.

[00:32:33]a az AI összefoglalót, és akkor az az igazság számára.

[00:32:37]Tehát közben ez az internet és akkor szisztéma ez így megszűnik létezni.

[00:32:41]Senki nem jut pénzhez, aki a tartalmat előállítja, ami ugye amin tanítják a modellt.

[00:32:46]Tehát És mi lesz abból, vagy hova vezet a ez az út?

[00:32:53]Hát ez odavezet, hogy hogy összeomlik az egész, mert nem tud fejlődni a a modell.

[00:32:59]De mármint akkor nem az internetomliktál, hanem hanem maguk ezek az AI modellek.

[00:33:05]Hát igen, de igazából az internet is összeomlik, mármint erről erről volt korábban cikk egyébként a Telexen, hogy az pont te írtad már pár évvel ezelőtt.

[00:33:15]Igen, emlékszem.

[00:33:15]Igen, hát szerintem tavaly, hogy ez amúgy elég komolyan károsítja az internetet.

[00:33:19]És amúgy ez azért érdekes, most ezt csak azért mondtam el, mert ez például egy valódi probléma, amivel ténylegesen lehetne foglalkozni, hogyha az cégek azt gondolnák, hogy hogy szeretnék, hogy az emberiségnek jó legyen, mert jelenleg ugye tönkreteszik konkrétan az internetes özisztémákat, de ugye ezzel nem foglalkoznak, sőt erről így beszélnek, mint lehetőség, hogy hát igen, ez ez meg fog történni, de mindegy, azért csinálj tovább a Gemini, vagy nem a Gemini, de mindegy, a Microsoft saját AI-jának a fejlesztését, merthogy mert különben nem lesz pénzünk, vagy nem tudom, tehát hogy itt egy csomó ilyen valódi probléma van, amivel foglalkozhatnának, ahelyett, hogy arról beszélünk, hogy apokalipszis lesz, ami ami nem lesz valószínűleg.

[00:34:10]Még utolsó záró kérdésként ezt egy picit boncolgathatnánk, mert te is említetted Niki, hogy itt azért vannak valós veszélyek, amikkel amikkel lehet foglalkozni.

[00:34:20]Túl azon, hogy egyébként most akkor apokalipszisről beszélnek vagy sem, hogy hogy tudunk még olyan pontokat azonosítani, ami ami mondjuk egy ilyen egy ilyen egy ilyen reálisabb szárió éljal kapcsolatban.

[00:34:30]és hogy kicsit azokba így még belemenni, hogy mik ezek és és hol tart ezeknek a felfejtése.

[00:34:39]Hát itt megint szerintem el kell különteni azt, hogy mit gondolnak a nagy emi cégek, hogy ők mit kommunikálnak, hogy nagy probléma lehet, meg hogy a független kutatók mit gondolnak.

[00:34:47]Én ahogyan utána néztem, az alap a független kutatók inkább tényleg a hatékonyabb hackkelés irányába mennek el, hogy hogy ez lehet nagyobb probléma, mert ott olyan emberek is hozzáférhetnek szofisztikáltabb kódokhoz, akik egyébként nem feltétlenül értenének annyira hozzá.

[00:35:04]Kereshetnek ezek a mesterséges intelligenciák, olyan sebezhetőségeket, amit egyébként nem fedezhetne fel.

[00:35:10]Tök érdekes megnézni, hogy a nagy emiigek mit mondanak, hogy hogy szerintük mi a probléma.

[00:35:15]Az antropik az például most hozta ki azt, hogy szerintük a bioterrorizmus lesz az, ami igazán nagy vész lesz, gáz lesz.

[00:35:27]Mert ugye olyan patogéneket lehet az AI segítségével már összerakni, ami potenciálisan veszélyes lehet, pandémiát okozhat.

[00:35:37]és valami assasszem öt esettanulmányt hoztak is, hogy a saját kis klódjukat mire akarták már használni, ami szerintük gyanús.

[00:35:44]Aztán utána megszólaltak a biobiztonsági szakértők, akik azt mondták, hogy jó, igen, de nem feltétlenül akkora probléma ez, mert hogyha kitalálsz egy új ellenes szekvenciát, mondjuk, akkor azt még össze kell rakni, be kell szerezni hozzá a hozzávalókat, és ahhoz, hogy az MSt magától meg tudja csinálni, ahhoz teljesen automatizált laborok kellenek, ami még nincsen.

[00:36:03]Érdekes sidóe, hogy most után néztem kicsit Twitteren, bocsánat, X-en és a többi közösségi média platformon, hogy mit mondanak a biológusok, és mondták, hogy a Clod őket például egy csomószor már azért is letiltja, mert egy-egy patogénnek a nevét leírják.

[00:36:22]Még egy side.

[00:36:22]Az Antropik a múlt héten jelentette be, hogy lesz saját laboratóriuma, ahol ő maga szeretne gyógyszereket és vakcinákat fejleszteni.

[00:36:31]Mindenki vonja le a következtetést, amit szeretne.

[00:36:35]Érdemes ezeket a biztonságjelentéseket kritikával illetni szerintem.

[00:36:38]szintén alapvetően az van szerintem, hogy most tényleg te is azt mondtad, hogy hogy ezek mind olyan dolgok, amik ugye az emberek alapból is képesek lennének erre.

[00:36:52]Tehát például most ez, hogy egy új patogént előállítani, ha valaki ráállítana erre egy kutató csapatot, akkor az képes lenne ugyanezt megcsinálni.

[00:37:01]És ugye tehát ezek a modellek nem a semmiből találnak ki dolgokat, hanem abból az adatból, amit bevittek.

[00:37:08]Tehát nyilván lehet, hogy hatékonyabban tudnak gondolkodni, mint egy ember, mert végig tudnak menni, nem tudom 1 millióféle különböző variáción, amin mondjuk egy ember sokkal lassabban menne végig, de hogy ezek a napvégén ugyanolyan dolgok, amiket egy ember is elő tudna állítani.

[00:37:28]És ugye ez a hackelésre is igaz, hogy ahogy ahogy ez ezekből a korábbi incidensekből is látszott, ha valakinek a kezébe kerülnének ezek a ezek az ügynökök, amik egyébként ugye belső felhasználásra vannak, tehát ezek ezek a nyilvánosság számára nem elérhetőek, amikkel ezek az inensek történtek, de valakinek a kezébe kerülnének, mondjuk mit tudom én, egy ilyen kispályás orosz hacker csoportnak, vagy akármilyen nemzetiségűnek, akkor ők hirtelen sokkal durvább támad támadásukat tudnának végrehajtani, de nem azért, mert az mi kitört a containmentből is ilyen hatalmas izé lett, vagy mert igen autonómia lett és Skynet, hanem azért, mert nekik van egy céljuk, amit ezzel az eszközzel hatékonyabban meg lehet csinálni, de szerintem ezt fontos kiemelni, hogy ez továbbra is egy eszköz.

[00:38:20]Tehát ez nem egy velünk egy egyenrangú ilyen mesterséges tudat, hanem egy dolog, amit lehet használni bizonyos feladatok elvégzésére.

[00:38:31]Ez lesz a végszómára, vagy ez legyen a végszómára.

[00:38:33]Stutt nagy Niki Flaknár Balázs.

[00:38:35]Köszi, hogy itt voltatok.

[00:38:36]Folytassuk máskor is.

[00:38:38]Köszönjük.

[00:38:38]Köszi szépen.

[00:38:39]Nektek pedig köszönjük a megtisztelő figyelmet a kollégák nevében.

[00:38:40]Tartsatok velünk legközelebb is.

[00:38:42]Hamarosan újra találkozunk.

[00:38:44]Sziasztok.