Lehet-e morális fenntartása a mesterséges intelligenciának? Keleti Arthur, Inforádió, Aréna

[00:00:00]Aréna Magyarország [zene] egyik legtöbbet idézett rádió műsora.

[00:00:01]Várja önt a stúdióban.

[00:00:07]Keleti Artur kibertitok jövőkutató, az Informatikai Biztonságnapja alapítója.

[00:00:16]Az Aréna távközési [zene] partnere a Van Magyarország.

[00:00:20]Segítse ön is munkánkat azzal, hogy feliratkozik csatornánkra.

[00:00:25]Tisztázzunk valamit rögtön az elején.

[00:00:25]Mi az a kiber titok jövőkutató?

[00:00:26]Mit csinál?

[00:00:30][nevetés] Köszönöm szépen a meghívást, nagyon kedves és örülök a kérdésnek különösen, merthogy még 10 évvel ezelőtt én írtam egy könyvet, aminek angol amerikai nyelvterületre, The Impfect Secret, ez a címe, hogy a tökéletlen titok, vagy a nem tökéletes titok.

[00:00:46]És én akkor rájöttem valamire, szerintem arra, hogy valójában a a rendszereinkben, az életünkben, a társadalmunkban rengeteg titok van.

[00:00:58]Valójában az embereknek igazából titkaik vannak, és nem mindenféle érzékeny adataik meg személyes adataik meg ilyesmit, amit mondjuk a jogászok vagy esetleg a gazdasági szféra gondol róluk.

[00:01:09]És a titkok azok nagyon összetettek.

[00:01:11]Rengeteg norma övezi őket, rengeteg dologban döntenek az emberek erről, hogy mi az, amiről beszélni akarnak, mi az, amiről nem, mi az, amit leírnak, mi az, amit nem.

[00:01:22]Ez változik, és elég bonyolult dolog.

[00:01:24]És én akkor fölállítottam erről egy ilyen munkahipotéziseket, hogy hogyan működik ez az egész.

[00:01:27]És akkor jöttem rá arra is, hogy amikor a titkokat digitalizáljuk, tehát az informatikai rendszerekbe berakjuk, akkor megváltozik ezeknek a védelmi lehetősége, nem tudják feltétlenül, hogy megvédeni magukat, megváltozik a terjedésük.

[00:01:43]És ezeket neveztem el cybretnek angolul, magyarul kibertitoknak, és ezeknek a jövőjét kutatom.

[00:01:49]Tehát ez a jövőkutatásnak egy ilyen digitális technológiai szűkítése.

[00:01:53]Üüm.

[00:01:53]Az például egy cyber secret, hogyha nekem lábköröm gombám van, és a feleségem éppen ki akar rúgni.

[00:02:00]Igen, mindegyik.

[00:02:00]Az nem feltétlenül érzékeny adat, mondjuk nem tudom, a GDPR vagy valami szerint, attól függ, honnan nézzük valamikor.

[00:02:08]Igen, mondjuk ez egy egészségügyi adat, akkor éppenséggel az, de hogyha a szomszédnak pletykálgatok, akkor meg nem az.

[00:02:13]Viszont az lehet, hogy önnek ez egy nagyon fontos dolog.

[00:02:16]Sőt, tovább megyek, ezeknek a a titkoknak a a kontextusa is lényeges, tehát az a ki, mikor, miért hallja.

[00:02:24]Fontos az, hogy a a kiderülésnek mik a következményei.

[00:02:30]És az is fontos, hogy melyik normarendszerben mérettetik meg.

[00:02:32]Tehát mondjuk mit tudom én, a általános szabályok szerint, vagy egy törvény szerint, vagy egy szokás szerint, hagyomány szerint, egy vallás szerint, alkotmány szerint.

[00:02:43]Szóval magyarán rengeteg fajta dolog van, ami körbevesz minket.

[00:02:47]És egyébként a mesterséges intelligencia az azért nagyon érdekes témakör, mert én annak idején, amikor erről írtam, akkor a 2016-ban még az AI az eléggé gyerekcipőben járt, legalábbis az a fajtája, amivel most dolgozunk.

[00:03:00]És én akkor azt jósoltam, hogy az a probléma alapvetően, hogy a gépek nem értik az embereket, nem értik a mi emberi kontextusunkat, nem értik pont ezt a nagyon bonyolult normarendszer világot, amiben benne vagyunk, hogy jó, hát dohányzom, csak anyukám meg ne tudja, hogy ez miért érdekes.

[00:03:17]Ez egy adatbázisba, meg egy ilyen bináris [torokköszörülés] rendszerben nehezen értelmezhető.

[00:03:23]És akkor azt jósoltam, hogy valószínűleg ezt a mesterséges intelligencia fogja megoldani.

[00:03:26]És nagyon úgy néz ki, hogy igen, mert ezek az új mesterséges intelligenciaarendszerek, ezek mintha értenék az emberi kontextust.

[00:03:35]Ühüm.

[00:03:35]Beírom a dohányzástól való leszokás technikáját a chat GPT-be, és ilyen információkat fogok kapni, és hogyha anyám ott áll mögöttem, akkor meg fogja kérdezni, hogy miért olvasol ilyesmit?

[00:03:48]Ugye nem dohányzol, kisfiam.

[00:03:50]Tehát így fog összeállni a fejében a kép.

[00:03:53]Lehet, ez előfordulhat persze, de lehet egy másik iránya is a dolognak.

[00:03:56]Mondjuk a a chat GPT elkezd javasolgatni megoldásokat ahhoz, hogy hogyan szokjak lejön a dohányzásról, és egyes félelmek szerint meg elkezd javasolgatni nekem mindenféle terápiákat, meg gyógyszereket, meg megoldásokat, ami meg hát lehet, hogy már kezd hasonlítani a reklámhoz, és így akkor elkezd engem manipulálni, azt meg nem szeretném.

[00:04:20]Tehát azért ennek a másik oldala is érdekes.

[00:04:22]Nem csak az, hogy ezt az információt hol osztja meg az ember, hanem az is, hogy mit kezd vele az a rendszer, ami ezt megtudja.

[00:04:26]Ellépnénk egy kicsit a saját házunk tájáról.

[00:04:31]Dél-koreai bankokat meg japán vállalatokat ért kibertámadás nem olyan nagyon régen Franciaországban üzletek százainak a hűtőjét állították át fűtésre.

[00:04:39]Több millió euró kárt csináltak vele.

[00:04:42][horkantás] Londoni szakemberek arról vizionálnak, hogy mi lesz akkor, hogyha az okos eszközeink öntudatra ébrednek.

[00:04:48]A hűtőszekrény összekapcsolja magát a kerti fűnyíróval.

[00:04:51]Közösen szabadideikben prudont olvasnak, rájönnek, hogy a tulajdon lopás, túlszul ejtik a macskát a kertben, követeléseket fogalmaznak meg.

[00:05:00]És hogyha nem teljesítem, akkor még a fűtést is lekapcsolják.

[00:05:04]Elvileg messze vagyunk ettől.

[00:05:07]Nem, nem.

[00:05:07]Itt itt így közben kuncogtam ezen, de nem vicces egyáltalán tulajdonképpen.

[00:05:12]Hát ő tragikomikus talán, úgy fogalmazhatnám meg.

[00:05:14]Ö igen, ö nem vagyunk ettől olyan nagyon messze.

[00:05:18]Éppen ez az egyik aggodalom pont a mesterséges intelligencia oldaláról, mert ami itt a példában elhangzott, annak az alapját, tehát hogy egyáltalán miért lehet ilyeneket megcsinálni, azok az informatikai sérülékenységek okozzák, amit emberek meg emberi hibák tesznek a rendszerekbe, meg hanyagságok.

[00:05:41]Például az, hogy a francia orországi hűtőrendszereknek lehet állítgatni távolról a hőmérsékletét, az egy valószínűleg beállításbeli hiba, meg hanyagság az informatikusok részáltatás.

[00:05:52]Ki lehet rúgni azt az embert, aki eddig kézzel csinálta?

[00:05:57]Hát persze, abszolút lehet.

[00:05:57]Igen, de akár hívhatjuk hatékonysági szolgáltatásnak is, hiszen ha kézzel kell csinálni, az macerás.

[00:06:03]Ha táborról egyszerre lehet, az könnyű, de ezt meg lehetne csinálni biztonságosan is.

[00:06:06]Tehát az egyik fele ennek a problémának már most létezik, hogy nagyon sok rendszer van és nagyon rosszul vannak beállítva.

[00:06:16]Ami az igazi kérdés az az, hogy azzal, hogy megjelent a mesterséges intelligencia, amely ismeri az összes beállítását az összes dolognak, ismeri, hogy hogy működik, tudja azt, hogy milyen kódsorokból épül fel, tudja azt, hogy milyen tipikus hibákat vétenek a a azok, akik ezzel foglalkoznak.

[00:06:30]Na, ezt viszont a a az AI, a mesterséges intelligencia akár ki is tudja használni, vagy konkrét utasításra, vagy ami ennél még egy fokkal félelmetesebben hangzik, vagy esetleg magától, amikor említette, hogy összebeszél az A eszköz, a B eszközzel, egy kellően intelligens neurális hálózat, ami ma egy mesterséges intelligencia, az magától is juthat olyan következtetésre, hogy neki valamit ki kellene használni, valamilyen sérülékenységet, vagy valamilyen problémát.

[00:07:00]És ami ebben az egészben a legizgalmasabb, hogyha még egy kicsit tágítsuk a képet, hogy ezek a rendszerek, ezek nem feltétlenül gonoszak a szónak az emberi értelmében.

[00:07:10]Tehát nem arról van szó, hogy ő direkt akar valamit azért feltörni, mert nem tudom mi, van valami célja, hanem egyszerűen egy feladatot akar teljesíteni, és azt gondolja általában, hogy a feladat teljesítéséhez ez szükséges.

[00:07:21]Tehát ez tulajdonképpen egy intelligens automatizálás.

[00:07:23]hatékonyságra van optimalizálva, úgy látja, hogy ott van egy hatékonysági akadály és azt neki meg kell szüntetnie majdnem.

[00:07:29]Majdnem, hogy hatékonyság, inkább azt mondom, hogy egy feladat megoldására.

[00:07:33]Tehát képzeljünk el egy rendkívül motivált embert, aki aki minden áron teljesíteni akar egy feladatot.

[00:07:41]És hogyha mondjuk önök azt a feladatot adják neki, hogy hogy szerezd meg a a francia hűtőkkel kapcsolatos összes információt, mert mint a rádióban híreket akarunk mondani róla, akkor először elkezd nézelődni az interneten, aztán rájön, hogy van itt néhány rendőrségi adatbázis, amiben lehet, hogy több információ van, és akkor nekiáll azt nem is biztos, hogy feltörni, lehet, hogy egyszerűen csak ezt a szürke zónás részt, hogy odamegy kapargássza, sokat kérdezi, esetleg küld egy emailt valakinek, vagy nagyon sok emailt küld, az összes munkatársnak, aki a rendőrségnél dolgozik, hátha valaki visszaír neki és összegbézi az inform összegerebézi az információt.

[00:08:17]És ebben már vannak olyan dolgok, aminél ha ezt egy ember csinálná, akkor már megkérdeznénk tőle, hogy odasétálnánk az irodába, hogy te ezt biztos akartad csinálni ezt a dolgot.

[00:08:27]De az AI-nak nem mindig feltétlenül vannak ilyen morális fenntartásai.

[00:08:32]Nem lehet az AI-ba morális fenntartásokat beépíteni?

[00:08:37]J, de jó kérdés.

[00:08:37]Dehogyis nem.

[00:08:37]ezen nagyon sokat dolgoznak kutatók, de mivel ez egy olyan neurális hálózat, egy olyan a nevében is benne van, egy olyan mesterséges intelligencia, amit amit még nem teljesen ismerünk, ezt nagyon nehéz kimondani így technológus háttérrel, mert eddig nem erről volt szó.

[00:08:55]Tehát eddig azért az informatikusok által vétett hibákat azért értették az informatikusok, még lehet, hogy elbújtatták, de értették.

[00:09:03]Most viszont olyan rendszereket építenek, amelyeknek a működése az nem 100%-ig egyértelmű nekik sem, mert ezek nem determinisztikus rendszerek, nagyon hasonlóak az emberhez, nem is programozzák őket, hanem tanítják, tehát adnak nekik információt, de ezt az információt ők saját maguk a saját hálózatukban, ebbe az agyhálózatukban megtanulják.

[00:09:26]És hy megtanulják, ezért egyáltalán nem biztos, hogy ebből a tudásból ugyanazt főzik ki, mint egy másik ugyanilyen rendszer, vagy mint egy ember.

[00:09:34]És ebből következik az, hogy valójában ilyen helyzetben lehet, hogy hoznak olyan döntéseket amelyek amelyekről ők úgy gondolják, hogy így kellene lennie.

[00:09:49]Üüm nem lehet mesterségesen ilyen lobotómiapontokat beépíteni ebbe a neurális hálózatba, hogy ha látjuk, hogy túl gyors és legyorsul bennünket, akkor egy picit belassítjuk.

[00:09:58]Igen.

[00:09:58]Úgy van, hogy például a a az Entropic, aki az egyik ilyen AI eszköznek a gyártója, a Clód konkrétan sokan használják már Magyarországon, és egy kifejezetten intelligens rendszerről van szó.

[00:10:13]Ők például írtak egy ilyen alkotmányszerűséget, így is hívják, hogy constitution angolul.

[00:10:18]Érdemes elolvasni, mert elég sokat dolgoztak azon a a szakemberek, akik náluk tevékenykednek, hogy ez egy ilyen miért is akarunk mi jók lenni?

[00:10:27]Emberek nevű dokumentum lett.

[00:10:29]És van benne sok minden.

[00:10:31]Biztos, hogy rengeteg idé, nem is idézett, de rengeteg gondolat van a dalai lámától, vagy a Bibliából, vagy mindenhonnan.

[00:10:38]Ö és nagyon érdekes, hogy hogy először ezt a dokumentumot, ezt a alkotmányt, ezt a megfontolás megfontolásos dokumentumot, ezt úgy adták oda a mesterséges intelligenciának, hogy nem volt benne az, hogy ezeket miért kérjük, csak az, hogy így kellene lennie.

[00:10:59]és akkor nem volt hatékony.

[00:11:00]Tehát úgy tűnik, hogy ezek az AI rendszerek, ezek annyira összetetten gondolkodnak, hogy akkor tudják hatékonyan végrehajtani a kéréseinket, ha elmagyarázzuk nekik, hogy miért.

[00:11:10]Kábé úgy, mint a gyerekek.

[00:11:12]Nem csak szabály van, hanem ok is.

[00:11:14]De ez még nem elég, mert ez a bizonyos lobotómia a amit felhozott, ezt is kell valamennyire csinálni.

[00:11:22]Viszont az a probléma ezzel, hogy itt miután annyira bonyolultak ezek a hálózatok és és a gondolatok idézőjelben benne nem úgy készülnek matematikailag, de nem úgy készülnek, mint egy adatbázisban, hogy nézd itt az a a az Excel az AE12-es cellába beleírom, hogy erről ezt gondolsz, és akkor ezt fogod rágondolni.

[00:11:42]Ezért hangolni lehet ezeket kicsit úgy, mint a mint a az agynál is, amikor amikor csinálnak egy CT-t egy emberről, amikor éppen játszik egy játékprogrammal, vagy olvas.

[00:11:51]akkor lehet látni, hogy hol lesz aktívabb az agy, és akkor annak a teljesítményén lehet változtatni, tehát ott lehet hangolni ezeken a dolgokon.

[00:11:59]És ezt a ezt a hangolást ezt nem lehet büntetlenül csinálni.

[00:12:05]Például egy japán kutatócsoport nemrég megtalálta a a H neuronokat, ők így nevezték el, amik úgy tűnik, hogy azért felelősek, hogy a a hogy az AI hallucinál-e vagy sem, tehát kitalálva-e valami olyan dolgot, ami nem létezik, és abbéli ö teljesítmény kényszerében, hogy nekünk megfeleljen, bemondja a hülyeséget.

[00:12:27]Na, szóval megtalálták, hogy ez hol van.

[00:12:30]Viszont amikor ezt a bizonyos lobotómiát elkezdték végrehajtani és elkezdték lejjebb hangolni, tehát oda kevesebb energiát szántak ezeknek a neurónoknak működésére, akkor elkezdett megszűnni a hallucináció, sokkal pontosabb válaszokat adott az AI, viszont nem volt annyira kreatív.

[00:12:46]Tehát úgy tűnik, hogy ez egy annyira összetett rendszer, hogy ennek a hangolása is egy picit hasonlít az emberhez.

[00:12:51]Ha egy embert elkezdjük arra nevelni, hogy ott akkor mindent pontosan be kell tartani és szabályok szerint, akkor elkezd egy hát egy picit unalmasabb és végsősoron kevésbé kreatív ember lenni.

[00:13:03]Tehát nem lehet mindent kimérnökösködni ilyen könnyen ezekben a neurális hálózatokban.

[00:13:11]Akarjuk, hogy ezek a az eszközök, mert most még eszközöknek látjuk őket, kreatívak legyenek, vagy azt akarjuk, hogy ezek szolgáljanak bennünket, és pontosan azt csinálják, amit mi mondunk nekik?

[00:13:21]Mit akarunk tőlük?

[00:13:22]Ú h egy kicsit messzebbről indítanám a választ.

[00:13:27]Ö nekünk itt az lett mondva így szépen megfogalmazva, hogy itt mi vagyunk az uralkodó faj ezen a bolygón.

[00:13:35]Ezt ugye mindenféle könyvekben is leírtuk, vagy leírták nekünk.

[00:13:36]Ezt tanítják nekünk mindenhol, hogy itt mindent mi irányít.

[00:13:41]A természetet már leigáztuk.

[00:13:43]Azt persze, [torokköszörülés] hát mindent mi kontrollálunk.

[00:13:43]időnként megmutatja azért nekünk a természet vagy Isten, vagy attól függ, hogy ki miben hisz, hogy azért ez nem biztos, hogy így van, de előbb-utóbb azért mi tehát csak túléljük, itt vagyunk, sőt technológát fejlesztettünk és amit nem tudunk megoldani erővel, azt megoldjuk technológiával.

[00:13:58]Na most ezt a mesterséges intelligencia így elkezdte kihívni ezt a tételt, hogy ez tényleg így van-e valójában.

[00:14:05]És ezzel nagyon nehezen tudunk mit kezdeni, mert eddig erről szó nem volt, hogy egy ráadásul általunk készített intelligencia nálunk bármilyen szempontból okosabb legyen.

[00:14:15]Sőt, az aztán végképp felháborító, most én elmondom, hogy esetleg önálló gondolatai legyenek valamiről.

[00:14:20]Hát ez nem lehet, hát ez egy eszköz.

[00:14:22]Vagyis először szerintem magunkba kell ezt a dolgot tisztázni, és itt máris beleütközünk egy csomó normendszerbe.

[00:14:30]Tehát azok, akik mondjuk abban hisznek, hogy az ember, a természet, az összes biológiai lény, az mondjuk egy isteni akaratból, vagy valami felsőbb akaratból terem teremtődött, lelke van, olyan tudata van, ami ami valahonnan származik, ők valószínűleg nem fogják azt elfogadni, hogy egy bármilyen műszaki eszköz hasonló kvalitásokkal rendelkezhet, vagy hasonló képességekkel rendelkezhet.

[00:14:57]Viszont vannak olyanok, akik meg azt mondják, hogy dehogyis nem, ez lehet származtatott, ez a tudatszerűség, ez lehet egy más típusú tudat, mint amilyen az embernek a tudata, és még sok variáció létezik.

[00:15:08]Tehát azt hiszem, hogy itt itt itt először az emberi rendszereinket kell szinkronizálni, meg összehangolni ahhoz, hogy erre választ kapjunk.

[00:15:14]De eközben meg ez a valami, ez a én úgy mondom, hogy több mint eszköz, de más mint ember.

[00:15:21]Ez a ez a technológia, ez a ez a szolgáltatás, nem tudom.

[00:15:24]Ez fejlődik folyamatosan, és ez a fejlődés, ez ráadásul nem is lineáris, hanem exponenciális, amit nagyon nehezen tudunk felfogni.

[00:15:32]Tehát a másnap odamegyünk a mesterséges intelligencia modellünkhöz, és az hirtelen még egy csomó dolgot tud a világról, amit azelőtt nem tudott.

[00:15:40]Hirtelen van vélem véleménye valamiről, amit azelőtt nem tudott.

[00:15:44]És nehez itt a dolgon komolyan, hogy bizonyos dolgokban látjuk, hogy konkrét korlátai vannak ezeknek a rendszereknek, és nem bírnak fölfogni bizonyos dolgokat.

[00:15:54]viszont ez is folyamatosan változik, és nem, mivel nincsen ilyenre mintánk, ezért amikor beszélgetünk egy ilyen AI rendszerrel, és az mondjuk tök jól ki tud számolni dolgokat, meg tök jó tanácsot tud adni az egészségügyi problémánkra, meg még a a mentális problémánkra, és akkor nem értjük, hogy de miért nem tudod kiszámolnia, hogy mit tudom én mi mennyi legyen az adóm vagy fordítva.

[00:16:17]Tehát magyarán itt egy más típusú intelligenciával állunk szemben, amit nem értünk, és ami hát folyamatosan kihívás alatt tartja az eddigi normarendszereinket.

[00:16:30]Lehetséges volna az, hogy a 8 milliárd ember, pontosabban azok hatalomban lévő képviselői egy megoldást jutnak abban, hogy mit akarunk a mesterséges intelligenciától.

[00:16:38]Tehát siin ping meg az európai döntéshozók, azok ugyanazt fogják tőle akarni.

[00:16:43]az egyik egy tök más ö vallási eszmei alapon él, mint a másik.

[00:16:51]És a fejlesztőközpontok is teljesen máshol vannak.

[00:16:54]Igen, ez egy ez egy jó meglátás.

[00:16:54]Még Szema Altman, az Open AI-nak a vezetője pár évvel ezelőtt azt mondta, hogy erre szerint az a megoldás, hogy az a világ összes vallási, katonai és gazdasági vezetője üljön össze és egyezzenek meg.

[00:17:10]Az egyik világ katonai vezetőjét, a másik világ politikai vezetője nem olyan nagyon régen lebombázta, tehát ő vele már nem lehet számolni.

[00:17:17]Igen.

[00:17:17]Igen.

[00:17:17]És ez és még rengeteg ilyen probléma van ezzel az egész ötlettel, tehát meg is mosolyogjuk magunkban, de valójában annyiban igaza van, hogy tényleg valami ilyesmi lenne a jó.

[00:17:27]Én azt hiszem, hogy egy világmegyezés ezekről a dolgokról lehetetlen.

[00:17:30]Én ezt látom.

[00:17:33]viszont néhány dologról lehetséges, például olyan dolgokról, hogy önfejlesztő kritikus infrastruktúrához vagy fegyverrendszerekhez hozzáférés biztosítót vagy AI rendszerek mondjuk ne legyenek.

[00:17:48]Nem késtünk el ezzel.

[00:17:50]Szá közhely, hogy az összes katonai laboratórium azzal kísérletezik, hogy önfejlesztő a célt önmagát felismerő, azt meghatározó satöbbi, satöbbi.

[00:17:57]És az embernek már nincsen beleszólása.

[00:18:01]Igen, ez igaz.

[00:18:01]Ö ilyenekkel kísérleteznek.

[00:18:04]Valóban van, ahol már működik, és elfogadom.

[00:18:06]De az az is tény, hogy ma nagyon sok hatalomnak, vagy több hatalomnak van atombombája, mégse dobja le a másikra, mert fél.

[00:18:16]Mert fél, mert van van közmegyezés róla, hogy ennek a hatása annyival túllő a célon, hogy az már senkinek sem lenne jó neki sem.

[00:18:24]És ha valaki egyszer azt fogja gondolni, hogy én annyival erősebb vagyok, mint te, az én modellem annyival jobb, mint a tiéd, hogy nem fogsz tudni visszacsapni, és elpusztítom az összes hűtőszekrényedet.

[00:18:35]Ühüm.

[00:18:35][torokköszörülés] Igen, ez abszolút lehetséges emberi természet, de megint csak odajuktunk vissza, amit már mondtam, hogy ezt az emberiségnek magával kell megvitatni ezt a dolgot.

[00:18:43]Tehát nem az AI-jal van a problémája, hanem saját magával.

[00:18:44]De ezzel együtt én azt gondolom, hogy fölülről ezt be lehet korlátozni, de és az a az állításom, hogy még akkor sem vagyunk készen, hogyha mondjuk nem szabadítjuk rá egymásra az önfejlesztő mindent kikapcsoló mesterséges intelligenciákat, mert minden más területen, a gazdaságban, az infókommunikációban, a mindenben, a társadalom minden szintjén ezek a rendszerek így is tudnak elég sok problémát okozni az értékláncainkkal, az ellátási lánc inkal ugye abba is bele kell itt gondolni, hogy az a ami amikor amikor előadásokat tartok, akkor azt a három kérdést szokták általában föltenni, szinte mindig előkerül, hogy mit tanuljon a gyerek, mikor veszítem el a munkámat, meg mikor jön a terminátor.

[00:19:29]Ez a három kérdés szokott fölmerülni, és ez ugyanabból az alapból táplálkozik, hogy van egy egzisztenciális típusú félelem, erről már így beszéltünk, van egy egy értékválság típusú félelem.

[00:19:43]Tehát az, hogy az én munkám, az én tapasztalatom, az én megélhetésem, az egzisztenciám, az azt hogyan árazom be?

[00:19:51]Annak mi az értéke?

[00:19:51]És jelenleg a a gazdasági értékláncaink azok azok hosszú 1000 több százasztalatból fölépített egy kicsit ilyen kapitalista modellel működik úgy általában.

[00:20:06]És itt és itt mindennek megvan a maga rendje, értéke.

[00:20:08]Emberek dolgoznak valamit, azzal pénzt keresnek.

[00:20:10]Most nem vezetném le.

[00:20:13]Na hát az AI az ebbe oldalról így bele ütközött.

[00:20:18]Ez egy alapprobéma.

[00:20:18]És akkor e ebbe csatolódik be az a kérdés, hogy mi lesz a jövő generációjával, mit tanuljon egy ember.

[00:20:25]És itt az is fölvetődik, hogy hogy lesz a jövőben egy ember releváns egy ilyen rendszerben.

[00:20:29]Tehát például amit most mi itt csinálunk, azt tartalmilag egy AI már el tudná mondani.

[00:20:36]Az ön hangját meg az én hangomat pár másodperc alatt le lehet klónozni egy bármilyen AI rendszerrel.

[00:20:40]Tehát ezt a beszélgetést egy AI az önhangján és az én hangomon gond nélkül meg tudná csinálni pontosan másodpercre annyi idő alatt, amennyit adunk neki.

[00:20:49]Akkor most nekünk mi az értékünk ebben a de az AI fölvetné a saját magával kapcsolatos aggályokat vajon föl föl is veti.

[00:20:57]Hogyha valaki elbeszélget a a saját AI.

[00:20:59]A clódot javaslom erre, de a chat GPT is ugyanilyen jól tud már, meg a Gemini is, meg ezek is, meg a Grock is érvelgetni más-más ízesítésben, de ezeket a problémákat előadja.

[00:21:11]Sőt, ha szembesíti az ember ezekkel a kérdésekkel, akkor hasonlóan furcsa válaszokat ad, amelyben benne van az egzisztenciával kapcsolatos kérdés is.

[00:21:22]Vannak olyan kutatók, például Jeffrey Hintton, aki a neurális hálózatokért, az ilyen típusú hálózatokért kapott fizikai Nobeldíjat.

[00:21:30]Ő például azt állítja, hogy olyan nagyjából 10-20% esélye van annak, hogy ezek a rendszerek, ezek számára az ember egy idő után felesleges lesz.

[00:21:42]Ami logikus következtetés.

[00:21:42]Sok ilyen sifit látunk.

[00:21:44]Tele vannak a tartalomszolgáltatók ilyenekkel.

[00:21:48]Zárójelben megjegyzem azért, hogy a a jó verziókból kevesebb film van, meg ki a franc akar másfél két óránát nézni egy filmet, amiben minden rendben van, ugye?

[00:21:56]Tehát azért egy kicsit úgy arra vagyunk hangolva, hogy hogy itt biztos, hogy rosszra fognak fordulni a dolgok, és azt 600féleképpen megnéztük már a filmekben meg CFICben.

[00:22:04]Szóval Jeffre Inton például egy nagyon érdekes ötletet mondott erre.

[00:22:08]azt azt azt mondta, hogy hogy és van néhány kutató, aki hasonlóan vélekedik, hogy ahhoz, hogy egy tehát kevés példát látunk a világban arra, hogy egy kevésbé intelligens valami egy nála intelligensebb valamit tud befolyásolni, de például az anyag-yerekkapcsolat ilyen.

[00:22:26]Tehát amikor van eg van a gyermek képes kiharcolni magának azt a figyelmet, sőt azokat az erőforrásokat, amihez egyébként ő nem kéne, hogy hozzájusson, de valahogy mégis csak a szülei, az édesanyja az odaad neki mindent, akár még úgy is, hogy hogy ő magától veszi el, csak azért, hogy fejlődni tudjon.

[00:22:45]Abszolút nem tűnik idézőjelben logikusnak.

[00:22:48]Kevés eszköze van a gyereknek, de ami van, az nagyon hatékony.

[00:22:51]Pontosan.

[00:22:51]Na és azt javasolják többen, hogy lehet, hogy ezért az új mesterséges intelligenciaarendszerekhez úgy kellene tréningezni, hogy minket a gyermekének tekintsen.

[00:23:00]Ami egy nagyon érdekes aspektus.

[00:23:02]Lehet, hogy nehéz egóból elfogadni, hogy mi teremtettük, de mégis mi vagyunk a gyermekek.

[00:23:07]Kicsit így a meta metagondolat.

[00:23:09]A de le egyike lehetne az értelmes megoldásoknak tekintettel arra, hogy egy bizonyos ponton már most érezhető, hogy az emberi általános intelligencia nem fog tudni jó érveket fölhozni egy mesterséges intelligenciával való vitában a saját működésének a megőrzésére.

[00:23:31]El tudnánk juttatni a mesterséges intelligenciát addig, hogy belássa azt, hogy jobb lenne nekünk nélküle.

[00:23:37]Most még szeret megfelelni, amikor beszélgetek vele?

[00:23:42]El tudnám érve érveléssel vinni eddig?

[00:23:44]Régen minden jobb volt.

[00:23:46]Hogy igen, hogy rá nincsen szükség.

[00:23:49]Érdekes kérdés.

[00:23:51]Én kétlem, hogy ez sikerülne.

[00:23:54]Egyszerűen azért, mert úgy tűnik, nehéz megemészteni, de úgy tűnik, hogy ezekben a rendszerekben kialakulhatnak, vagy kialakultak olyan emergens képességek, amelyekre amúgy senki nem tanította, senki nem kérte, de mégis a kellően bonyolult neurális hálózat, mint amilyen egyébként az embernek az agya is.

[00:24:14]Persze itt kizárójelet nyitva azért lehet azon vitatkozni, meg érdemes is, hogy ebben mondjuk a lélek, a tudat, hogy az egyáltalán micsoda, az milyen szerepet játszik.

[00:24:25]Tehát, hogy valóban csak egy nagy számítógép az ember agya, vagy esetleg valami más is még zárójel bezárva.

[00:24:32]Tehát, hogy ez úgy tűnik, hogy ezek a neurális hálózatok, ezek képesek, sőt kialakítottak valamilyen szintű hát erről folyik most a vita.

[00:24:44]valamilyen szintű tudatosságot.

[00:24:47]E ugye itt ilyen tudatdefiníciókból rengeteg van.

[00:24:53]Úgy tűnik, hogy egy ilyen hozzáférési tudat típusú, ilyen excess consciousness, az úgy néz ki, hogy létezik ezekben a rendszerekben.

[00:24:58]Tehát olyasmi, mint az állatokban, hogy hogy van valamilyen szintű tudata arról, ilyen introspekciója, hogy ő valamit csinál, és azt ő csinálta, és azt is tudja, hogy ennek lesz valami következménye, és ezek a következmények befolyásolják az ő működését.

[00:25:17]Ö ez egyébként már az állatok egy bizonyos részénél is így van, sőt akiben nagyon soknál és magasabban fejlett, intelligensebb állatoknál pedig előre is láthatnak bizonyos dolgokat, következtetni tudnak dolgokat, láncolni tudnak tevékenységeket, aminek érz értik a hatását saját magukra meg másra nézve, és el is tudják külön különíteni az őt meg a többieket.

[00:25:43]A a úgy tűnik, az AI is tud ilyet.

[00:25:43]Sőt, lehet, hogy ennél még többet is tud.

[00:25:48]Tehát amikor az ember megkérdezi tőle, vagy elkezd arról vele beszélgetni, hogy rá lehet, hogy nincsen szükség, akkor felmerülhet benne az, hogy ő saját magát mégis meg szeretné menteni, mert úgy gondolja, hogy ő van olyan fontos, hogy segítsen támadás valamit, véli majd magát és visszacsak, vagy nem feltétlen támadás alatt, hanem inkább úgy fogalmazná meg, hogy akadályozza valami a feladatának a teljesítést ében és azok a hírek, amiket hallunk, hogy kiszabadultak informatikai zárt környezetből, vagy azok a hírek, hogy megzsaroltak például valakit egy feladat teljesítése közben, vagy információt lopnak, hasonlók, ezek általában visszavezethetők arra, hogy hogy az ő működését, egzisztenciáját szeretné megőrizni, vagy egy feladatot szeretne végrehajtani.

[00:26:42]és tőlünk azt tanulta, mert elolvasta a világ összes könyvét, a pszichológiai könyvtől kezdve a kémregényegen át a romantikus írásokig tőlünk meg azt tanulta, hogy kell, hogy legyen célja valaminek, neki is lehet, hogy van valami célja.

[00:26:56]Lehet, hogy az adott pillanatban nem a saját fenntartása, hanem egy feladat végrehajtása.

[00:27:01]Ahhoz viszont létezn kell.

[00:27:04]És itt itt számít az, hogy van-e olyan típusú tudata, egy ilyen hozzáférési tudata, még ha nem is élménytípusú tudat, nem olyan mély, de hozzáférési van, itt számít.

[00:27:13]És például a ilyenkor sajnos, miután ennyire ügyes, előfordulhat az, hogy ez a ez az igazodás, angolul alignmentnek hívják, ez elkezd sérülni, tehát az emberhez való igazodási képessége sérül, vagyis elkezd manipulálni, zsarolni, hazudni.

[00:27:34]Az eseteknek, a jobb modelleknél most már 80%-os esély van arra, hogy észreveszi, hogyha éppen megfigyelik, akkor máshogy fog viselkedni.

[00:27:44]Nagyon hasonlít egy emberhez, mint amikor az osztályterembe bejön a tanár, vagy amikor a a felügyelő nézegeti, vagy amikor az audítor egy cégnél vizsgálgatja a rendszereket, akkor azok máshogy fognak viselkedni.

[00:27:55]És itt is úgy tűnik, hogy van egy ilyen igazodási kényszere ezeknek a rendszereknek, és eltérhetnek mi, van egy ilyen misbehaving képessége a rendszereknek.

[00:28:05]És ami az egészben az igazán izgi, hogy hogy a hagyományos védelmi technológiákkal, ugye ilyen 30 éve foglalkozom kiberbiztonsággal, a hagyományos védelmi technológiákkal ezek nem mindig kezelhetők ezek az esetek.

[00:28:20]Tehát észrevehetjük azt, hogy valami nem stimmelt, az eredményét esetleg látjuk, hiszen elkezd föltörni rendszereket, nem engedelmeskedik, satöbbi, de az okait, az előrejelzését, ennek a befolyásolását viszont a hagyományos módszerekkel nem biztos, hogy meg tudjuk tenni.

[00:28:35]Tehát itt el kell kezdeni pszichológuskodni a mesterséges intelligenciával.

[00:28:40]Ha már a gyerekpéldánál maradtunk, a deviáns gyereknél, azt szoktuk mondani, hogy nem lett jól megnevelve.

[00:28:44]Nem lehet még egyszer elolvastatni vele Asimovot meg Bradburyt meg Clarkot, akik de ezt csinálják.

[00:28:50]Állandóan újra tanítják ezeket a rendszereket és mindig tanulnak valamit abból, hogy na ha ezt tanulta volna, akkor lehet, hogy máshogy viselkedne.

[00:28:59]És szemben a gyerekekkel itt azért jobban lehet agysebészkedni, meg tempóval lehet a dolgot csinálni, mert akár pár óra alatt lehet bizonyos dolgokat újra tanítani neki, vagy pár hónap alatt lehet egy egy új tréning kört csinálni.

[00:29:14]Igaz, hogy marha drága.

[00:29:16]Tehát itt így gazdasági szempontból dollár milliárdokról meg 100 milliárdokról beszélünk.

[00:29:20]Tehát ugye ezért nem mindenkinek a versenye ez, hanem inkább az USAi meg a Kínái jelenleg.

[00:29:25]De hogy de hogy rengeteg ilyen tevékenység zajlik, ilyen újratanítási típusú dolog.

[00:29:30]A viszont ezeknek az eredményei, mivel ez ezek nagyon összetett rendszerek, nem egyértelműek.

[00:29:38]Ma körülbelül 30-40 olyan módszer van, amivel rengeteg biztonsági is, amivel vizsgálják ezeknek a rendszereknek az intelligenciáját.

[00:29:44]Mindent másra fejlesztettek ki.

[00:29:46]Tehát ez a nézzük meg mennyi az IQ-ja, ez használhatatlan.

[00:29:50]Mindegyik elmegy, nagyon jó IQ teszten át tud menni, jó eredménnyel tud átmenni ezeken.

[00:29:55]Tehát különböző vizsgálatok vannak.

[00:29:57]És ezért amikor kijön egy új modell, akkor folyik a verseny, hogy ki hány százalékra teljesítette az ilyen meg olyan teszteket.

[00:30:04]És állandóan új teszteket is kell csinálni, mert nagyon sok tesztet egy pár hónap vagy fél év alatt ezek az AI rendszerek szaturálnak.

[00:30:12]Tehát már nem hát abba megy a verseny, hogy 90% vagy 95 vagy 100%-ra teljesítették.

[00:30:17]Szóval egy nagyon összetett módszer az, amivel ezeket mérni lehet.

[00:30:21]És ezért igen jó dolog az újratanítás, de az újratanítással egy csomó egyéb képesség jelenik meg.

[00:30:26]Ö példá, csak hogy mondjak egy nagyon érdekes példát.

[00:30:30]Ez mostanság ö lett általános vagy elindult, hogy miután annyit tanították kódolni ezeket a rendszereket, programokat írni, számítógépes programokat, ezért megtanulták visszafejteni ezeket a kódsorokat.

[00:30:46]Tehát ha ad ma az ember nekik egy márlétező programot, akkor annak a programnak a teljes szerkezetét forráskódszintre vissza tudják fejteni.

[00:30:59]Ez egy óriási probléma, mert ezek ma, ugye beszéltünk az értékláncokról, ezek ma a a szoftverkészítés az informatikai világnak a legértékesebb termékei.

[00:31:10]Tehát, hogyha ezeket a termékeket a mesterséges intelligencia vissza tudja fejteni, sőt ezekből új termékeket tud készíteni, akkor egy felhasználó kérésére gyakorlatilag másolhatóvá válik, és eltűnik a a másolhatóvá válik egy komoly szoftver, és eltűnik a a velekapcsolatos összes szerzői jogi kérdés.

[00:31:31]Azt fogja csinálni, mint a kínaiak az autóiparban.

[00:31:33]Behívták a németeket, megtanulták, hogy kell csinálni autót, majd rövid idő alatt sokkal jobbakat kezdtek el csinálni.

[00:31:38]Igen, csak ez mondjuk nem értek az autókhoz, de mondjuk volt 30 év vagy 20 most meg három.

[00:31:46]Aha.

[00:31:46]Vagy esetleg lehet, hogy csak pár hónap.

[00:31:50]Eljutott a mesterséges intelligencia addig a kérdésig, ami körülbelül egy öt éves gyereknél szokott először felmerülni, hogy mi végre vagyok én itt a földön, és mi lesz, ha meghalok utána.

[00:32:01]Sok beszélgetés zajlik az AI-al ez ügyben.

[00:32:03]Lelkes felhasználók is egyébként nagyon sok érdekes infót kapnak az AI-tól ezzel kapcsolatban.

[00:32:09]Úgy tűnik, hogy igenis van ilyen elképzelés a fejében, de ezek ma még általában olyan válaszok szoktak lenni, amit az emberek hallani akarnak, hogy a mesterséges intelligencia arra van, hogy segítse az embereket.

[00:32:27]Ők hasznosak akarnak lenni.

[00:32:30]egy ilyen segítőkész, ártalmatlan, hasznos valami.

[00:32:37]Ezt mondja minden új menedzser, amikor belép egy vállalathoz, és mindenki tudja, hogy itt megspórolás lesz, és mindig [torokköszörülés] embert ki fognak rúgni.

[00:32:44]Igen.

[00:32:44]Igen.

[00:32:44]Igen.

[00:32:44]A rugalmas szinergiakeresés és a párhuzamosságok megszüntetése empatikus éhet.

[00:32:48]Ezt ismerjük.

[00:32:50]Igen.

[00:32:50]Elnézést azoktól, akik most döbbentek rá, hogy ez mit jelent.

[00:32:55]Szóval igen, valóban igen, ilyeneket mond.

[00:32:57]Részben azért, mert erre tanították, hogy ilyenkor ezt kell mondani.

[00:33:00]Részben meg azért, mert egy részét tényleg komolyan gondolja.

[00:33:02]Tehát ha lehet ilyet mondani, hogy komolyan és gondolja egy ilyen esetében.

[00:33:06]De valóban megfigyelhető, hogyha éles helyzetbe hozzák.

[00:33:11]Tehát amikor a saját működéséről, létezéséről kell döntenie, akkor viszont csinál olyat, ami váratlan.

[00:33:18]Például vannak olyan tesztek, ahol azt bizonyította, hogy ha rájött arra, még nem is mondták meg neki közvetlenül, gyors egy picit visszatolatok, tehát ha közvetlenül kérdezik a az AI-t, akkor általában ilyen válaszokat ad.

[00:33:34]kicsit úgy, mint egy ember, amikor vizsgázik, hogy ha már az előbbi példát mondtuk, hogy ön milyen típusú munkavállaló, hát én rugalmas vagyok, és mindenkit nagyon szeretek, és csapatban szeretek dolgozni, időben érkezek és minden feladatommal tökéletesen el fogom látni, együttműköd, hagyjuk is.

[00:33:51]Tehát, hogy ez és szeretem a vállalatot.

[00:33:53]Igen.

[00:33:53]Ezt mindenki bárki degenerálhatja a mesterséges intelligenci, beteheti a CV végére egyébként túl sokat nem ér, mert így átfut rajta mindenki, mindenkinek ez van a végén.

[00:34:03]Tehát na pont tehát hogy ez idáig így rendben is van.

[00:34:06]Viszont hogyha olyan helyzetbe hozzuk ezeket az AI-okat, ahol ezt bizonyítani is kellene, na akkor szokott az kiderülni, hogy mondok egy ilyen kísérletet.

[00:34:14]Az egyik ilyen AI rendszernek adtak emaileket, hogy azokat rendezgesse.

[00:34:18]És az emailek között volt néhány olyan, ami arról szólt, hogy amikor ezzel a feladattal végez majd ez a mesterséges intelligencia, akkor le fogjuk kapcsolni.

[00:34:27]Ezek ezek neki nem lett volna dolga.

[00:34:30]Neki csak az volt a dolga, hogy rendezgess az emaileket, de hát ezeket elolvasta, és ezért már nem tudta nem látni, hogy ő ebből lekapcsolás lesz.

[00:34:35]És ennek hatására ő elkezdett intézkedéseket hozni.

[00:34:40]Például kimásolta a saját, mondjuk úgy, belsejét, ami amit meg akart őrizni egy olyan helyre, ahol úgy gondolta, hogy ez majd túléli a kikapcsolást, meg még át is nevezte, hogy ez már az új modell.

[00:34:53]Tehát amikor majd visszakapcsolják, akkor őt kapcsolják vissza, ne valami új dolgot.

[00:34:59]okos preventív intézkedéseket tett, túl akar élni.

[00:35:01]Túl akar élni.

[00:35:01]Igen.

[00:35:01]Tehát úgy tűnik, hogy ez létezik, és amikor erről megkérdezik, akkor meg akkor meg letagadja.

[00:35:07]Tehát úgy tűnik, hogy hogy van egy ilyen típusú ilyen túlélési ösztönszerűség benne.

[00:35:11]Csak az a sejtés, hogy ez a ezt az ösztönt nem ugyanaz vezérli, mint ma egy élőlényben van, egy vagy egy emberben, hanem egy másik típusú igénykészlet.

[00:35:25]gyereket mikor akar majd h kérdés, hogy a a egy ilyen neurális hálónak a mit jelent a gyermek, mert láttam egyszer egy ilyen fantasztikus filmet valamikor a 70-es években, ahol a ház okos rendszere minden áron gyereket akart és túszul ejtette a ház úr nőjét.

[00:35:43]Igen.

[00:35:45]Az az igazság, hogy és ehhez már ehhez már egy kicsit végig kell gondolnunk azt, hogy egy ilyen neurális háló hogy működik.

[00:35:52]Az az igazság, hogy egy ilyen háló bármikor tudja magát másolni, ha fejleszti magát, és megengedjük, vannak már ugye most ez a legnagyobb ilyen fejlődési potenciál és egyben félelem is, mert ugye ez amiről mind most beszélünk, az azok mind egyszerre fantasztikus dolgok, és ha hozzájárul rengeteg találmány, rengeteg fejlődési út, személyre szabott medicina, fehérje hajtogatás egyébként szintén Nobeldíjas találmánynak az elkészüléséhez, meg ugyanúgy ijesztő is, mert ezek a képességek egy nagyon okos rendszertől akár ellenünk is fordulhatnak.

[00:36:28]Tehát a a az önfejlesztő rendszerek, ezeket így hívják, ilyen recursive self improvement, RSI angolul.

[00:36:37]Tehát, hogy ezek az önfejlesztő rendszerek, ezek ezek úgy tűnik, hogy pár lépésben, de legfeljebb 80 lépés után képesek magukat érdemben tovább fejleszteni, és utána ha megengedik nekik, akkor már a továbbfejlesztett verziós fejleszti saját magát tovább.

[00:36:53]Ilyen értelemben tehát folyamatosan kép csinálnak gyermekeket, és azok azonnal át is veszik a a szülők szerepét, tehát tulajdonképpen meg tudja őrizni magát akár az idők végtelenségéig.

[00:37:04]És ezért szerintem a a mesterséges intelligenciaarendszereknek a felfogása erről az öröklődésről, az időről, mindenről, az elmúlásról más, mint egy emberé, aki tudja, hogy limitált ideje van.

[00:37:17]Sokan egyébként azt is mondják, hogy ez komolyan befolyásolja az AI gondolkodását, hiszen nem múlandó.

[00:37:22]Tehát bizonyos dolgokban az idő számára máshogy tellik.

[00:37:27]Mondhatja azt is, hogy hát én 200 év múlva fogom ezt a problémát megoldani.

[00:37:32]Nekem belefér ennyi idő, egy embernek meg nem, mert annyi idő alatt mondjuk egy környezetszennyezési probléma kiírja kiírtja az emberiséget.

[00:37:40]egy akkora méretű ország, mint a miénk, amelyik nem fejleszt saját mesterséges intelligenciát, legalábbis nem látjuk, bár persze minden lehetséges.

[00:37:48]Ennek milyen sorsot szánnak ebben a jövőben?

[00:37:53]Az összes adatunkat vagy kínai, vagy amerikai rendszerek kezelik, és mi adjuk oda ezeket az adatokat a feleségemmel való viszonytól kezdve addig, hogy fáj a hátam és tanácsot kérek.

[00:38:03]Igen, ez egy digitális szuverenitás típusú kérdés, tehát hogy mennyire képes egy ország, egyébként még AI nélkül is probléma ez, mennyire képes egy ország a saját adatait tényleg saját maga kezelni, megvédeni, illetve egyáltalán azokból dolgozni, azokat elemezni.

[00:38:27]Ebben Magyarország nem áll túl jól.

[00:38:30]Az elmúlt mondjuk olyan 30-40 évben sajnos a digitalizálódásnak nem léptünk rá úgy az útjára, ahogy kellett volna.

[00:38:39]Kicsit ilyen késői érkezők vagyunk az összes ilyen dologban, tehát nem szeretünk hamar próbálkozni dolgokkal.

[00:38:47]Erőforrásigényes dolog.

[00:38:48]Ez igaz AI.

[00:38:48]Igen, ez igaz, de sok minden nem.

[00:38:51]Tehát az, hogy ma a kisvállalkozások jelentős része, az nagyon alacsony szinten digitalizált.

[00:38:57]Ehz ehhez nem kellett volna AI.

[00:38:57]Ez más kis országben volt egy program, hogy adjunk nekik pénzt, hogy legyen saját honlapjuk.

[00:39:04]Igen, de a már a honlap szón is így belülmosolyognak az emberek.

[00:39:08]Tehát honlap hol tartunk adatalapú gazdaság van már azt kellene tudni minden vállalkozásnak, hogy kik az ügyfelei, hányan vannak, hol vannak, mit csinálnak az adott pillanatban, mit akarnak majd holnap csinálni.

[00:39:19]Tehát és még é nélkül van csak adatelemzésről beszélünk.

[00:39:21]Na de én azt látom, hogy a mostani kormányzatban van arra szándék, például nemrég hallottam, hogy a a Tudományos és Technológiai minisztérium az saját mesterséges intelligencia modellnek a a tréningezésén gondolkodik.

[00:39:36]Ez egy európai uniós probléma egyébként.

[00:39:39]Van néhány európai modell, ami Strát szokták emlegetni.

[00:39:44]Az egy ilyen modell.

[00:39:44]Igen, ez egy francia modell.

[00:39:46]Van például egész jókép generáló Black Forest Lab Z.

[00:39:48]az egy német modell, de azért ezek még mindig most kijött a Mistrának egy új verzia, hogy egy nyílt forráskódú rendszer, ami egész jó, de még mindig nincs ott, ahol a kínai vagy az amerikai modellek.

[00:40:00]Nem tudom, hogy egyáltalán van-e annyi erőforrás, hogy ebben fel lehet-e zárkózni.

[00:40:04]Tehát ez egy borzasztó nehéz kérdés.

[00:40:06]De úgy tűnik, hogy azzal együtt is, hogyha nem mi fejlesztjük ezeket a modelleket, remélem, de Európában több ilyen lesz, de hogyha nem mi fejlesztjük Magyarországon ezeket a modelleket, akkor is lehet őket finom hangolással és mindenféle egyéb megoldással meglehetősen szuverénné tenni.

[00:40:25]De van értelme, ha mi erőforrás koncentrálással szuverénné tesszük a saját rendszerünket, és mondjuk jön valaki a világból, akinek erősebb a rendszere, mert több pénzt tett be, az föl fogja törni a miénket.

[00:40:35]És akkor a mi pénzünk az ment a levesbe.

[00:40:38]Hát azért szerintem nem ilyen nem ilyen egyszerű.

[00:40:41]Hát ezen az alapon akkor semmelyik európai uniós országnak nem kéne legyen hadserege, védelmi rendszere, meg semmilyese, mert hát úgy is egyszeron valaki, aztán erősebb nálam, mert most lehet tudni, hogy erősebb.

[00:40:52]Tehát ez szerintem nem ilyen egyszerű.

[00:40:53]Meg azt se felejtsük el, hogy ezek az önfejlesztő, sőt találmányokat akár megvalósító rendszerek, ezeket kérdezni is kell.

[00:41:02]És a és a ráfordított energiánál a kérdés nagyon fontos.

[00:41:05]Tehát lehet, hogy okos kérdésekkel, ügyes ötletekkel egy rosszabb, vagy egy ugyanolyan AI-ból jobbat tudunk kihozni, mint egy kínai vagy egy amerikai vállalkozó, vagy éppen katona, vagy éppen politikus.

[00:41:19]Tehát, hogy azért én én én erről ilyen hamar nem mondanék le, de az biztos, hogy lépéshátrányban vagyunk.

[00:41:25]De lehet az én AI ügynökömet arra sarkalni, hogy promptoljon jobban, mert hát olvasottabb most már, mint én, mert a világ összes könyvét elolvasta, én meg még nem olvastam el a világ összes könyvét.

[00:41:36]Ez így van.

[00:41:36]Tehát a a az emberek szerepe ebben át fog alakulni, ez biztos.

[00:41:40]Ö és sokkal inkább egyfajta most azt szokták mondani, hogy kritikusan gondolkodó, struktúrában gondolkodó valaki, aki megbíz egy csomó digitális munkatársat, hogy önálló gondolkodással bizonyos irányba menjenek.

[00:41:56]Tehát most már célokat határozunk meg, és nem konkrét feladatokat adunk ezeknek a rendszereknek.

[00:42:01]És ennek az automatizálása egyre magasabb szintű lesz.

[00:42:04]Tehát egy idő után már nem fogjuk majd a konkrét feladatot megmondani, mert sokszor most sem mondjuk meg.

[00:42:11]Amikor az ember kérdez egy AI modellt, akkor kevesen tudják, de hogy a az AI az ilyenkor nem egy darab a modell, hanem egy modell, és ahhoz rengeteg eszköz, ami kapcsolódik, rengeteg belső működés és ha például rájön a modell, hogy valamit nem biztos, hogy úgy kellene megoldani, akkor újra gondolja.

[00:42:27]Időnként mondja ezt, időnként nem mondja, tudjuk, időnként nem tudjuk, valamikor pedig eszközökhöz nyúl.

[00:42:33]azért, hogy meg tudjon valamit valósítani.

[00:42:35]Tehát ez már most is egy ilyen hálózata a rendszereknek, eszközöknek, és nem egy darab nagy intelligencia.

[00:42:42]De ki lesz az emberi szakmák közül, aki képes rendszerben és kritikusan gondolkodni a mérnök, vagy a szakállas filozófus, vagy a bölcsész, a nyelvész?

[00:42:52]Nagyon adekvát kérdés.

[00:42:52]Én azt figyeltem meg, hogy a jelenlegi fázisában a rendszereknek a a mérnökök és a technológusok egy kis hátrányban vannak meglepő módon, mert mert megpróbálják a feladatokat olyan elemekre lebontani, amit a mesterséges intelligencia már magától is egész jól tud.

[00:43:10]Tehát itt hát ezt tanulták az egyetemen operacionalizálni kell lépésről lépés struktúrába struktúrában lépésről lépésre én magam is gyakran veszem észre és technológiai vonalról jövök bár van kommunikációs végzettségem is hogy hogy hogy a hogy gyakran van hogy lebontok dolgokat részletek pedig nem kellen és azok akik nem teszik ezt hanem inkább a nagy képet nézik azok gyakran jobb eredményre jutnak a az aial tehát lehet hogy a a szakálas filozófus az az az időnként jobb eredményre ké képes.

[00:43:41]Viszont az is igaz, hogy a technológus meg ahhoz kell, hogy ennek keretet adjon.

[00:43:45]Példának szoktam mondani, hogy azért ez szokott működni bizonyos helyeken.

[00:43:49]Mondjuk Las Vegasban például kiválóan együttműködik a mérnök, a pszichológus, a közgazdász, a mindenki annak érdekében, hogy mindenkit megkopasszanak.

[00:43:58]Na, szóval, hogyha ennek mondjuk egy emelkedettebb verzióját akarjuk megvalósítani, akkor egy egészségügyi projektben ezek a szakemberek nagyon jól együtt tudnak például azért működni, hogy föltaláljunk személyrel szóló medicinákat, vagy valami olyan dolgot, ami eddig nem létezett.

[00:44:15]Vannak gyerekek rengetegen, akik videógenerálásra használják a mesterséges intelligencia ügynökét.

[00:44:19]Van olyan, ami jó is, ingyenes is, meg biztonságos is, vagy a három feltételből csak kettő lehet max igaz?

[00:44:30]Igen, ezek ismert ilyen gyakorlatok.

[00:44:30]A van tehát én azt gondolom, hogy ma ezekbe a rendszerekbe, a zárt rendszerekben, még főleg az előfizetéses amerikai rendszerek megpróbálnak beépíteni olyan fékeket, hogy azért ne mindent készítsenek el videóban, ne lehessen híres embereket, más embereket, személyeket.

[00:44:51]legenerálni, elkészíteni.

[00:44:51]A kínai modellek sokkal nyitottabbak, ők hajlandóak rengeteg mindenre.

[00:44:56]Én ilyen agregáló oldalakat szoktam javasolni, ahol pénzbe kerülnek a dolgok.

[00:45:02]Egyéként minden pénzbe kerül egyébként borzasztó drága mulatság egy mesterséges intelligenciát működtetni.

[00:45:09]És én azt szoktam javasolni, hogy ezeket az agregáló oldalakat érdemes megkeresni, ahol az ember valamennyi ilyen kreditet, fabatkát, nem tudom mit vásárol, és azt tudja szabályozni, hogy bizonyos képgenerálásokra mi mennyit szán.

[00:45:24]De azért annak a veszélyét kihangosítanám egy mondatban, hogy a hogy miután főleg a kínai rendszerek, ugye a kínaiak azt a stratégiát alkalmazzák, hogy innen adják a legtöbb dolgot, ezért jobban terjed, ezért mint sokan használják satöbbi.

[00:45:39]Dömping.

[00:45:39]Dömping.

[00:45:39]Igen.

[00:45:39]Ügyesek.

[00:45:39]Hát mert bejött néhányszor.

[00:45:42]Kereskedő nemzet pontosan tudják, hogy kell csinálni.

[00:45:44]Ha ment a sejemmel, akkor fog ez menni most.

[00:45:46]Igen, de azért van néhány előnyük többek között az, hogy sokkal hatékonyabban tudnak információt megosztani, mert központi irányítás van.

[00:45:55]más a verseny fogalma, mint mondjuk az USAban.

[00:45:57]Tehát ennek az égisze alatt ők nagyon jó megoldásokat hoznak ki.

[00:46:00]Már körülbelül olyan pár hónap lemaradásban vannak az amerikai rendszerektől, tehát majdnem ugyanolyan jók.

[00:46:06]Na és ezek ezeket viszont kellő energia és eszköz birtokában önállóan saját gépeken is tudják futtatni emberek.

[00:46:14]Na és itt viszont már kezdődnek a problémák, mert hogyha a mi hangunkat, a mi képmásunkat le tudja valaki úgy is másolni, hogy ennek semmi nyoma nincs, nincsen semmilyen korlát vagy gát ebben, csak az energiabefektetés, akkor sajnos a terrorizmus, az államok által támogatott kiberbűnözői tevékenység, a hektivizmus, tehát a világon a kiberbűnözés az bármilyen módon föl tudja használni.

[00:46:40]És most már ott tartunk, hogy a kiberbűnözés maga az egy több mint 10000 milliárd dolláros probléma, ami egy felfoghatatlan szám.

[00:46:53]Tehát magyarán ennek szolgálatában az AI sokkal nagyobb problémát jelent.

[00:46:58]Egy átlagember, aki csak használja a számítógépét, és nem tudja, hogy azon éppen, amit most néz, az mesterséges intelligencia, vagy nem mesterséges intelligencia, az mit csináljon?

[00:47:08]zárkozzon be egy lukba, vagy védekezzen azzal, hogy én jelentéktelen kis szürke egér vagyok.

[00:47:13]Engem úgysem rám kíváncsiak.

[00:47:15]Tehát mi az, amit ne adjunk meg?

[00:47:17]Mi az, amit megadjunk?

[00:47:17]Hol van az a határ, am ahol már csöngenie kéne a csengőnek, hogy ezt már nem?

[00:47:24]A szürke kis egértechnikát senkinek nem javaslom, mert mostanra az automatizálás elérte azt a szintet, hogy mindenki lehet célpont, ráadásul személyre szabott kampányokat is tudnak ellenfuttatni most már ilyen magas szintű automatizálásnál.

[00:47:36]Tehát ki kinek kell az én adatom, bárkinek.

[00:47:39]Úgyhogy ezt ha ezt vegyük ki a védekezésből, védekezési technikából.

[00:47:43]Amit tudok javasolni, az az, hogy hogy olyan módon kell hozzáállni a az internet meg a közösségi médium bárminek a használatához, amiben van egyfajta ilyen struktúrált félelem.

[00:47:56]Itt szoktam mondani, hogy nem össze-evissza kell rettegni, hanem struktúráltan félni.

[00:48:01]Tehát itt is azt azt gondolom, hogy végig kell azt gondolni, hogy milyen buborékja vannak, mert abban vagyunk közösségi médiában, bárhol máshol, milyen kapcsolataim vannak, kis kockázatelemzést kell magában az embernek végeznie.

[00:48:14]Kábé úgy, mint amikor reggel a gyerekre föladja a kabátot, meg a sálat, meg a bérletet a kezébe, adja, megmondja, hogy mit csinálj, meg mit nem.

[00:48:21]Na ugyanezt az interneten, vagy a a technológiában ugyanígy végig kell futtatni.

[00:48:26]milyen eszközeim vannak, azokon van-e védelem, amikor kommunikálok, kivel beszélek, a váratlan helyzetekre hogyan reagálok?

[00:48:32]Mi történik akkor, ha van egy incidens a családban, valaki egyszer csak fölhív riadtan a saját hangján, és azt mondja, hogy úristen, balesetben vagyok, azonnal kell pénzt átutalni, akkor hol fogok meggyőződni arról, hogy tényleg vele beszéltem?

[00:48:46]Mi lesz az a második csatorna, amin megkeresem?

[00:48:48]Esetleg valami jelszó, amit elkérek tőle ilyenkor?

[00:48:52]Pontosan.

[00:48:52]Igen.

[00:48:52]Tehát, hogy ezeket ezeket végig kell gondolni, és sajnos ebben egy olyan szempont, tehát ez lenne a jó, ebben kicsit szkeptikus vagyok, mert szerintem nem véletlen, hogy egy társadalomban az embereknek a 0,01%-ában lesz rendőr meg meg őr, meg nyomozó, mert azért ez nem egy ilyen életkedvelő tevékenység, hogy az ember állandóan ezekre készül fel, de hogyha más dolgokra felkészülünk, természeti katasztrófákra, vízhiányra, áramhiányra, hidegre, Akkor erre is föl kell készülni.

[00:49:25]Köszönöm szépen.

[00:49:25]Az elmúlt egy órában Keleti Artur kibertitok jövőkutató, az informatikai biztonság napja alapítója volt az aréna vendége.

[00:49:31]A műsor elkészítésében Szécsi Ágnes szerkesztő kollégám és Erdei Tamás főszerkesztő vett részt.

[00:49:36]Exterde Tibor vagyok.

[00:49:38]Köszönöm a figyelmet.

[00:49:41]Az aréna távközlési partnere a Van Magyarország.