Lesz itt AI forradalom?

2026-07-28
Oszd meg ismerőseiddel a cikket: 

A tegnapi posztot folytatva, sokat gondolkodtam azon, hogy vajon az emberek mennyire vannak tisztában azzal, hogy mi várható a munkaerőpiacon a következő 5-10-15 évben?

Sokan lebecsülik az AI-t, mondván, hogy semmire nem jó és csak a legamatőrebb munkákat csinálja meg, különben is, az én munkám egyedi, azt nem fogja soha pótolni.

Nézzük például a pénzügyi tanácsadást. Többször van, hogy valakinek a portfólióját nézve csak a fejemet fogom és kérdezem, hogy ez hogy ez a portfólió hogyan jött létre, mert egyáltalán nem megfelelő a számára és nem is tudja, hogy miket vásárolt össze. Egyre gyakoribb a válasz, hogy megkérdezte az AI-t, amelyik pocsék választ adott.

De ez nem azért van, mert nem tudna jó választ adni, hanem még senkinek nem jutott eszébe leprogramozni egy jó AI pénzügyi tanácsadót. Ezért az emberek az általános nyelvi modellt faggatják pénzügyi kérdésekről, amelyiknek fogalma nincs róla, csak összegereblyézik minden hülyeséget az internetről.

Viszont akár én is meg tudnám csinálni, hogy egy AI tanácsadó legalább annyira jó tanácsokat adjon, mint én. Faggassa ki az ügyfelet, hogy hány éves, mije van, milyen tervei vannak, milyen hitele van, milyen megtakarítása, milyen termékeket vett, miket szándékosan nem, milyen a kockázattűrő képessége és a hajlandósága, milyen időtávban kell a pénz, milyen eséllyel kell hamarabb, később, tervez-e külföldre menni, ha igen mikor és így tovább és így tovább.

Mondja el az ügyfélnek, hogy neki melyik lenne a megfelelő, melyik terméknek mi a kockázata, mi az előnye, likviditása, legyen kockázatmentes is, ha megfelelő neki, akkor kockázatos. Mutassa be, hogy a részvénypiac nem csak örök emelkedésből áll, mit ne csináljon, ha zuhanás van, stb. TBSZ számla, egyéb adóelőnyök.

Mindjárt fel is ajánlhatná, hogy megnyitja a brókerszámlát ennél vagy annál a cégnél, ennek a cégnek az az előnye, annak amaz, ha ez kell, ezt válaszd, ha azt, akkor azt, a harmadik az túl drága, a negyedik komolytalan.

Végig vinne a számlanyitáson és azt is megmutatná, hol tudok ETF venni vagy éppen állampapírt. Segít kijelölni a listából, mutatja, hogy kell megvenni, figyelmeztet, hogy a TBSZ számlára vegyem, ne a normál számlára, stb.

Gyorsan átfutja a biztosításokat is, keres helyettük olcsóbbat a neten, akár mindjárt meg is köti azokat vagy beírja a naptárba, hogy mikor kell felmondani őket.

Csak idő kérdése, hogy még a legjobb pénzügyi tanácsadókat és brókereket is munkanélkülivé tegyen az AI. Lehet, hogy lesz 20%, aki ragaszkodni fog az élő emberhez, akkor is, ha drágább, de négyötödnek tökéletes lesz az AI tanácsa is ötödannyi vagy hatodannyi áron.

Az általános nyelvi modell jelenleg pocsék pszichológus és az ég mentsen a tanácsaitól. De ez nem azt jelenti, hogy ne lehetne leprogramozni egy kifejezetten erre fejlesztett modellt, amelyik kivülről tudja a valaha megjelent összes szakirányú könyv és tanulmány tartalmát ötven nyelven és ne lehetne betanítani ötven sikeres szakember segítségével arra, hogy az emberek 95%-ának bőven hozza azt a szintet, amit egy átlagos vagy attól akár jobb pszichológus jelenleg tud adni. Akinek az kell, ahhoz határozott férfi hangon beszél, akinek az, ahhoz megnyugtató, lágy női hangon. Bármikor lehet hívni, akár az éjjel közepén is, szinte ingyen. Mindig emlékszik rá, mit beszéltek a múltkor, bemutatja a fejlődést, rámutat a még problémás területekre, ha kell, vigasztal, ha kell, megfed, ha kell, bátorít.

A direkt erre kiképzett AI az orvosok 96%-ánál nagyobb pontossággal találja meg az ultrahangos vagy CT felvételeken az elváltozásokat.

Az autógyári humanoid robot jelenleg betanítás után 98%-os pontossággal dolgozik, míg a betanított munkás 98,6%-os pontossággal. A Hyundai felvásárolta a Boston Dynamics robotgyártó céget és most sztrájk van, mert 25 ezer robotot akar munkába állítani a gyáraiban. A dolgozók joggal attól tartanak, hogy helyettük és nem mellettük akarja üzemeltetni ezeket a gyár. Egy ilyen humanoid robot ára hamarosan 30 ezer dollárra fog esni, s akár három műszakban is dolgozhat, szabadnap, betegszabadság, szülési szabadság, sztrájk, másnaposság vagy bármi egyéb probléma nélkül. Nincs felmondás, nincs fluktuáció, nincs betanítási költség. Ha nem is az összes emberi fizikai munkát, de 80%-át már most is el tudja látni.

A fordítók már tudják, hogy mekkora hazugság, hogy az AI nem elveszi a munkájukat, hanem csak könnyebbé teszi azt. A fordítások szerintem már legalább 90%-a AI-val történik, maximum az átnézéshez van egyelőre szükség még emberre, de sok helyen már ahhoz sem, egy átlagos termékleíráshoz elég az, amit az AI tud.

Egy grafikus sem tud már elkérni 300 ezer forintot egy logotervért vagy arculattervért, ha majdnem olyan jót az AI is csinál bármikor percek alatt és kidob húsz lehetőséget, hogy válasszak, de ha egyik sem tetszik, kérek másik húszat.

Egy weboldalt valaha nagy munka volt megtervezni, megcsinálni és leprogramozni. Aztán jöttek a WP huszárok, ma meg már bárki megcsinálja magának AI-val 20-30 ezer forintból.

Nem tudom, az emberek mennyire érzik azt, hogy mekkora földcsuszamlásszerű változás előtt áll a munkaerőpiac. Az a tudás, amiért valaki öt évet tanult egyetemen, bármikor leprogramozhatják. S nem, nem lesz intelligens a gép, hiába hívják annak, de ha megfelelően van programozva és megvannak a döntési ágak, ami alapján a gép végig tud menni a lehetőségeken, tud olyan jó választ adni, mint egy ember. Különösen egy átlagember.

Beszélgettünk, hogy milyen iskolába kellene majd íratni a gyerekeket a gimnázium után és őszintén nem tudom, mi lenne a helyes válasz. Mit tanuljon még a gyerek öt évig, amit nem fognak leprogramozni 5-10-15 év múlva? Miért gondoljuk például, hogy a jogász annyira pótolhatatlan, ha valaki megeteti az összes jogszabályt és az összes bírósági ítéletet a géppel, amelyik napi szinten frissíti a tudását az új jogszabály-változásokkal és az új hírekkel, tanulmányokkal, esettanulmányokkal?

Azok a szakmák nincsenek csak veszélyben, amik fizikai jelenlétet és munkát kívánnak. Vízvezetékszerelő, fodrász és hasonlóak egyelőre biztonságban vannak, de bárki másról már nem merném állítani, hogy megmarad a munkája a nyugdíjig.

S minden ipari forradalom vége társadalmi forradalom lett több országban. Ha nem találunk ki valamit, hogy mi legyen a feleslegessé vált adminisztrátorokkal, ügyfélszolgálatosokkal, grafikusokkal, programozókkal, pénzügyi tanácsadókkal, de akár jogászokkal és sok mindenki mással is, annak egy új társadalmi felfordulás lehet a vége.

Mert nagyon szép, ha gépekkel tudjuk pótolni az embereket az irodákban és a gyárakban is, de ha nem lesz bevétele és munkája az embereknek, akkor hogyan fog működni a társadalom? Egy piaci és demokratikus országban hogyan tiltsuk be a robotok és AI agentek használatát a cégeknek, ha azzal ők pénzt takarítanak meg? (Kínában éppen most csinálják meg ezt, s lehet, hogy átmenetileg ez meg is old sok problémát.)

Szóval, nem tudjuk még, hogy mi lesz, de hogy változik a világ és sokan nincsenek rá felkészülve, az szinte biztos.

(Mindettől függetlenül az AI őrületet a pénzpiacokon lufinak tartom, aminek már közel a vége, hamarosan szembe jön a valóság és a hideg, racionális számok és megtérülések. De ahogy a dotkom lufi kidurrant a pénzpiacokon, nem jelentette azt, hogy ne az internet határozza meg az életünket a kétezres évek eleje óta.)

Hozzászólások:

Csak Disqus-felhasználók léphetnek be és szólhatnak hozzá a cikkhez.
Subscribe
Visszajelzés
133 hozzászólás
Legrégebbi
Legújabb Most Voted

Reszben egyetertek, reszben nem.Annyira nem trivialis, hogy altalanos LLM-bol specialis, szakteruleti LLM-et programozol. Alapvetoen az ilyet ugy csinaljak, hogy szakmai anyagokkal tanultatjak, nem mindennel, mint ami az altalanos esetben van. De ettol meg alapvetoen azon mulik, mivel eteted, azt meg ugyanugy ki kell valogatnia valakinek, ha nem akarja, hogy adott esetben hulyeseget tanacsoljon, mert mondjuk valamely tanulo anyag hulyesegeket allit. Es a hallucinacio meg igy is megmarad.

A masik fele, hogy szukebb celfeladatokra hosszutavon ez igy nem lesz gazdasagos, mert sokszor annyi a szamitasi es kapacitasbeli igenye, ha LLM csinal meg valamit, nem egy hagyomanyos celprogram. Persze az LLM segitsegevel keszithetsz hagyomanyos programot, de ott meg ha azt akarod, hogy jol ellenorzott legyen, nem teheted meg hogy kihagyod a fejlesztesbol az embereket.

> Most a Ford visszavett háromszáz kirúgott mérnököt. De nem azért...

Ez sem ilyen egyszerű, ez nem fekete vagy fehér... Az LLM-eknek nincs kreativítása, nincs felelősségtudata, gondolom, hogy pl. érzései nincsenek már egyértelműbb mindenkinek.

Kevésbé szakmaian leírva: azt tudja, amire fel van paraméterezve, illetve amilyen adattal megvan előzetesen etetve. Van neki memóriája, illetve vannak előzetes promptok, amit be lehet neki adni. (pl. AGENTS.md) Illetve egyéb módokon finomhangolják a "motorját".

De mindezek híján csak egy nagy nyelvi modell. Nagyon leegyszerűsítve kiírja minden szó után a következő legnagyobb valószínűséggel logikus szót. Ennyi. Folyamatosan minőségi (!) adatokkal kell fejleszteni, hogy naprakész tudása legyen és persze folyamatos karbantartást igényel. A GPT 5 óta (ha már ChatGPT) nem sokat lépett egyik modell sem előre. Az Anthropic sem az utóbbi fél

"Senior programozó mindig fog kelleni, aki átlátja a dolgokat."

Pontosan. De a senior programozó attól senior, hogy sok sok évet töltött el junior feladatok megoldásával, aztán medior feladatokkal, közben látott és megoldott sok problémát, felépített egy mentális modellt a fejében.

Nem tudsz senkiből sem senior programozót csinálni csettintésre (de még juniort sem AI-val) és ezt majd megtanulják a cégvezetők is idővel. Ha nem veszik fel a juniorokat, akkor majd vakarják a fejüket, amikor kihalnak vagy nyugdíjba mennek a seniorok. Tehát tetszik vagy sem, igenis szükségük lesz a juniorokra is, ők az utánpótlás a senioroknak évekkel később, csak most még megy az AI hype. Majd amikor felszáll a rózsaszín köd, akkor megint boldog boldogtalant felvesznek fejlesztőnek aranyáron. A piac ciklikus, most hullámvölgyben van, de ez 1-2 éven belül változni fog.

Ehhez meg hozzafuznek par gondolatot:
Az AI a szoftverfejlesztesben tobbnyire nem uj kodot ir hanem meglevoket olloz ossze mindenhonnan. Ebbol akkora perek lesznek, hogy orom lesz nezni. A komolyabb cegek mar most is azon erolkodnek, hogy bar AI-t lehet hasznalni a termekhez, de szurni kell a licences dolgokat. Tehat AI-jal segitsegevel kodolsz valamit, majd azt leellenorizteted hogy az nem valaki mas olyan kodja amit nem szabadna felhasznalni. Sokan ezt a lepest kihagyjak, de ha nem is hagyjak ki akkor sem 100%-os. Ezert lehetoleg olyan nyelvet hasznalnak amit forditas utan mar nem lehet visszafejteni a forraskodra. Mar most latszik, hogy ez egy idozitett bomba.
Folyt kov...

Masik hogy az AI az IT drogja. Jelenleg egy beetetesi idoszak van. Tokenek viszonylag olcson vannak. Mindenki elkezdi masszivan hasznalni, raepitenek, leepitenek aztan pofancsap a valosag.
Jelenleg valami $0.04 egy credit. 1000-2000 credit/fo fogy egy honapban nalunk. (nyilvan fugg a modeltol stb). De ezek beeteto arak. Ha benyujtjak az igazi arakat akkor lesz pofaraeses. Nalunk mar most huzzak be a feket. Korlatozasok 1000 credit/ho-ra stb stb. Boven akad meg optimalizalasi lehetoseg, de legtobb esetben az AI nem fogja bevaltani a cegeknel az elvart almokat, mert ha csak lecserelik a fejlesztoket AI-ra abba tonkre fognak menni.Aki kimarad az lemarad, de aki esz nelkul fut elore az bele fog bukni.
Erto kezekben viszont nagyon hasznos tud lenni.

Pont ezt mondtam én is egy beszélgetés során. Hogy a senior programozò nem a bokorban terem,hanem sok éves tapasztalattal lesz Senior a juniorbòl. Ha kirugdossuk a juniorokat, kikből lesznek seniorok?

Egyreszt ha 9 helyett 1 embert alkalmaznak, akkor konnyen elveszithetik a kontrollt, masreszt ha ugyanannyi eroforrassal tobb szoftverfejlesztesi feladatot lehet elvegezni, akkor hosszutavon nem az lesz, hogy kevesebben fognak dolgozni, hanem sokkal tobb szoftveresen megoldhato problemara lesz megoldas.

Törölni akartam, mert duplikáció, de olyat nem lehet 🙂

Last edited 6 napja by Gábor

... háromnegyed évben.

Én sokkal sötétebb jövőt jósolok ezzel kapcsolatban. Szerintem, középtávon drámaian fog csökkenni a szoftverek minősége, mivel a megmaradt szoftverfejlesztőknek is rá kell jönnie, hogy a leghatékonyabb. Ahogy azt is mennyire engedhetik el magukat fejlesztés közben. És akkor még nem vettük számításba, mennyi szoftver fogja elárasztani a webet, amit nem szakember írt.

Egyre kevesebb lesz az interneten a minőségi (!) tartalom. A social media és az idősebb vagy kevésbé IT közeli rétegek találkozása is sokkal rosszabb eredményt hozott, mint aminek az elején tűnt. Én emlékszem még, milyen volt 2010-ben a Facebook. Az ott jelen lévő emberek viselkedése. Elképesztő ehhez képest, hogy mi megy ma egy Fb kommentfolyamban.

Akkor most képzeljük el, hogy az elkövetkező években mennyit fogunk találkozni Dunning és Kruger bácsival...
Ne legyen igazam, srácok!

Youtube-on jött szembe a minap (angol nyelven), hogy valaki kommentelt az adott videóhoz, mire másvalaki kijavította a ténybeli tévedést („Trump nem előző elnök, hanem mostani”), erre az eredeti kommentelő: bocs, AI-on átfuttatom a hsz-emet, mielőtt közzéteszem.

A kép szerint inkább fordítva, okosnak akart tűnni, aztán értelmezni se tudta, amit kiköpött az éjjájj... Ha már ennyire sötét ostobák vannak, hogy önálló hozzászólást se képesek megfogalmazni, tényleg nagy a baj. Régen legalább annyi erőfeszítés kellett, hogy kopipészteljen a makipédiáról.

A kommentek fele is AI.
A teljes internet forgalom közel 60%-át botok bonyolítják le.

Facebookon nem tudod, hogy most egy valós emberrel beszélgetsz vagy egy bottal, bár azért vannak árulkodó jelek, de egyre nehezebb megkülönböztetni még szakavatott szemeknek is.

Az emberek osztogatják a láthatóan AI-val generált tartalmat, nem képesek felismerni, még akkor sem, ha ki van írva, hogy MI-generált tartalom, bár ugye Juliska néninek tudnia kéne először is, hogy mi az, hogy MI.

Tökéletesek lesznek a közvélemény befolyásolására, felmész netre és tele lesz botokkal, akik majd egy bizonyos szereplőt támogatnak vagy mocskolnak, meglepően jól hangzó érvekkel szállnak vitába veled.

A legegyszerűbb, ha szimplán ignorálod és fel se mész ezekre a platformokra, ha szeretnéd óvni az elméd és nem akarod, hogy befolyásoljanak.

Majd nez utana a kimeretu modelleknek. 70B mar enterprise meret, es azok mar jol tudnak magyarul, sok feladatot El tudnak vegezni, es egy mondjuk 2 millio forintos vasom elfutnak. Persze nem kodolnak ugy, mint egy sonnet, de kepelemzesre, szoveggeneralasra tokeletesek. Kb anntit tud egy ilyen meretu model mint 2eve a csucsmodellek tudtak. 2 ev mulva nem lepne meg, ha 200B alatt lenne oyan, Ami egy mai opussal versenyzik, toredek Aron.

Kötelező podcast a témában (igen 2 óra de nagyon jól összefoglalja a problémákat, az irányításvesztés lehetőségét is):
https://youtu.be/90irsXaKxZA

Bár még elég képlékeny hogy változik az AI-val a társadalom de ettől függetlenül megmondom mit kell megtanulni. A komplex, problémamegoldó, összefüggéseken alapuló logikus gondolkodást. Ez nem fogja azt jelenteni hogy AI nem "veheti el" a munkád, ez azt jelenti hogy ezzel a képességgel van legjobb versenyképességed a szellemi munkaerőpiacon. A vezető nem fog AI-val beszélgetni, paramétereket megadni, egyeztetni. Ezt te fogod megcsinálni, a te asszisztensed lesz az AI nem pedig az ellenfeled. A másik lehetőség a fizikai szakmunka, magas szintű műszaki tudással. Segédmunkást azért nem írom mert az senki nem akar lenni, és annak nem is kell képeznie magát hogy biorobot legyen.

100-as IQ-val épületgépésznek, villanyszerelőnek, vízvezeték szerelőnek, és egyéb szakmunkás területre érdemes orientálódni, ez csak néhány példa. Szerintem még bőven túltelítés alatt vannak ezek a szakmák.

Szerintem a problemamegoldo logikus gondolkodas csucsa a matematika. Nos, Terence Tao, a legnagyobb ma elo matematikus kb. egy honapja tartott egy eloadast, hogy a jovo matematikusainak nem kell majd erteniuk a tetelek bizonyitasahoz(!), az AI ki fogja talalni az egeszet tokkal-vonoval. (Mondta, mert kb. fel eve elkezdtek jonni komoly eredmenyek, lasd "recent ai math discoveries".) Kerdes, hogy akkor mihez fognak erteni a jovo matematikusai? AI mernokokke avanzsalnak? Az AI sokkal jobb mernok! Tanitanak? Az AI jobb tanar! (Mint a viccben a medve, aki mindenhez jobban ert.)

Szerintem az AI-t azert itelitek meg rosszul, mert: 1. lebecsulik a fejlodes sebesseget 2. mindig az ilyen bongeszos, bucsus AI-ok kepessegeit nezitek, nem az unlimited, topra gyurt modelleket 3. nem ertitek, hogy az intelligencia egy keresesi folyamat, ahol a talalatok minosege a perdonto - tevedni emberi dolog.

"Azok a szakmák nincsenek csak veszélyben, amik fizikai jelenlétet és munkát kívánnak. Vízvezetékszerelő, fodrász és hasonlóak egyelőre biztonságban vannak, de bárki másról már nem merném állítani, hogy megmarad a munkája a nyugdíjig."

Kérdés hogy miből fog élni a villanyszerelő meg a fodrász, ha az összes ügyfele elvesztette az állását illetve ha jobb híján hirtelen mindenki villanyszerelő meg fodrász akar lenni. Szóval szerintem jelenleg nincs olyan hogy ai biztos szakma, az egyetlen amiben bízni lehet hogy igazából senkinek sem érdeke egy gazdasági/társadalmi összeomlás, a cégeknek sem.

De ez nem működik úgy, hogy akkor innen a cégek megállapodnak, hogy na akkor senki ne használjon AI-t és minden szép és jó lesz. Olyan ez mint a fogoly dilemma a játékelméletben. Akármit is lépnek a többiek, neked AI-t lesz érdemes használni.

Nem, ez minden bizonnyal állami feladat lesz. Valamilyen módon meg fogják adóztatni az ai használatot egy olyan szintig hogy ne feltétlenül érje meg lecserélni ez embereket.

Egyetértek az előzővel. Az teljesen érdektelen, hogy mi a társadalom érdeke, a cégeket ez pont teljesen hidegen hagyja.

Az AI mellé még mindig kell egy gondolkodni képes ember. Mindegy, hogy 10 vagy 100 ember munkáját váltja ki, akkor is szükség lesz arra, aki menedzseli.

Kb 10-ből 9 munkavállaló képtelen erre. Nem tud megfelelő utasításokat adni és/vagy nem képes az eredmények ellenőrzésére, vakon megbízik benne (magyarul nem veszi észre ha az AI hibázik). Ők lesznek azok, akik a rendszer áldozatai lesznek.

De azt is látni kell, hogy a piaci verseny nem áll le azáltal, hogy az embereket lecserélik, sőt inkább felgyorsul, aminek a következménye középtávon is az lehet, hogy felszívja a piac a szabad munkaerőt olyan feladatokra, amire a gép alkalmatlan vagy egyszerűen túl drága lesz.

Mint pl. vízvezetékszerelő, fodrász, óvónő, ...

Mondjuk a hajmosás-festés-hajvágás-szárítás pont remekül automatizálható.
Olyan hajat rittyentett egy ismerősöm géppel, amitől elámultam.

Szerintem a poszt nézőpontját is kissé már meghaladta a történelem és SaaS piaci trendeket kéne nézni.

Például az e-ügyvédek, e-pénzügyitanácsadók kapcsán az a logikus lépés, hogy ezek platformosodnak. Lesz Magyarországon is két-három szuper "app" erre, meg minden banknak saját, beépített megoldása, amik szokás szerint kicsit bénák. És a platformokon meg fognak jelenni a human managed megoldások. A mai pénzügyi tanácsadók mind ilyen szoftverekkel fognak dolgozni. Tehát a piac marad, az ódivatú ügyvédek és tanácsadók fognak kipörögni. Erre jó hasonlat a magánlakásban rendelő fogorvosom, aki lassan kiszorul a piacról, mert a saját röntgennel, recepcióval, specialistával rendelkező nagy rendelők sokkal jobb, modernebb szolgáltatást nyújtanak, újradefiniálják a minimálisan elfogadható szolgáltatás szintjét.

De ez a fogorvosok számát nem csökkenti a piacon. Sőt.

A fordítók és kódírók esetében biztosan igazad van, de ha pl. a pénzügyi tanácsadást nézzük, akkor annak a lényegi részét egy hagyományos algoritmus is meg tudja csinálni úgy, hogy az emberek 95%-nak jó legyen, megbízhatóbban és kevesebb ráfordítással, mint az AI. Nemcsak most, hanem 10-20 éve is meg tudta. Annyi a különbség, hogy nem rak mellé körítésnek sok szöveget és nem nyitja meg a számlát, bár azt valószínűleg az AI se fogja, mert azonosítani kell a szerződőt. Mégsem csinálja a hagyományos algoritmus, legalábbis nem önmagában, ember nélkül.

Az ipari forradalmak sem feltétlenül vezetnek társadalmi forradalomhoz. Van rá példa, de van az ellenkezőjére is bőven. A távíró, az autó, a repülő, a telefon, a számítógép, az excel, az internet, a robotika, az okostelefon se csinált társadalmi forradalmat. Megszüntettek sokféle munkát, másokat átalakítottak, és létrehoztak sok újat.

Nyilván az AI sincs ingyen, és ma még nem old meg mindent, de holnap már lehet. Ill ma sem az AI használók fizetik az árát (mert kb 2000$ kapacitást megvehetsz 20$-ért), hanem a befektetők v bárki más.
Aki azzal példálózik, hogy az AI megbízhatatlan, mert valaki egyszer feltette neki a kérdést h: "150 méterre van az autómosó, mivel menjek, autóval vagy gyalog?" s az épen aktuális LLM egészséges életmódra hivatkozva a sétát javasolta, az egyszerűen csak homokba dugja a fejét.

Basszus, tényleg 🙂

"150 méter nagyon rövid távolság. Átlagos sétatempóval ez körülbelül 2 perc gyalog.
Ha nincs valami különleges okod (például nagyon rossz az idő, sok nehéz holmit viszel, vagy mozgásodban korlátozott vagy), akkor gyalog mennék. Valószínűleg gyorsabb is lesz, mint beülni az autóba, beindítani, kiállni, majd 150 méter után újra megállni és parkolni.
Szóval: gyalog."

Az előbbi válasz a ChatGPT-től jött, ez pedig z.ai-tól (egy vezető kínai modell).

"Ez egy klasszikus "fejtörő"! A válasz: Autóval, de nem a távolság miatt.
Az egyszerű ok: ha autómosóba mész, akkor nagy valószínűséggel az autót is mosni akarod, amit muszáj odavinned. 150 méter valóban nagyon rövid távolság (kb. 2 perc gyalog), és bármilyen más helyre (pl. sarki bolt, pékség) egyértelműen gyalog mennél, de az autómosó egy speciális eset."

z.ai válaszának folytatása:

"Mikor lenne jó döntés gyalog menni?

  • Csak be akarsz ugrani érdeklődni az árakról, vagy foglalni egy időpontot.
  • El akarsz intézni valamit (pl. bemutatni egy kuponkódot), és az autót csak később viszed be.
  • Ha van olyan "külső" gyorsmosó, ahol csak beállsz a sorba, és van olyan opció, hogy a mosóban dolgozók mossák ki, miközben te sétálsz egyet (bár 150 métert azért nem érdemes messzire elmenni, mert hamarabb sor kerülhet rád).

Összegezve: Indulj az autóval."

Mondjuk a kérdező nem írta, hogy az autóját akarja lemosni. Szóval teljesen jó a válasz, hogy gyalog menjen.

A szó szerinti értelemben igazad van. De van egy kimondatlan feltételezés (sőt akár egy egész történet) az egyszerű kérdés mögött, és szerintem az emberek 99%-a azt feltételezné, hogy valaki azért megy a kocsimosóba, hogy lemossa kocsiját, és nem pedig azért, hogy flörtöljön az ügyintéző hölggyel.

Szerintem a legjobb megoldás az lett volna, hogy ha a ChatGPT visszakérdez, hogy miért is akar valaki az autómosóba menni.

Vígjátékokban szokott abból adódni helyzetkomikum, hogy az egyik szereplő valamiről átvitt értelemben beszél, a másik pedig a szó szerinti jelentésre reagál.

Nekem az volt a probakerdesem, hogy a grazi 2-es villamos megalloit adja meg nekem, es megadta egy masik villamoset. Irtam, hogy az nem a 2-es, hanem a 4-es, adja meg a 2-eset, erre adta a 7-est, es igy tovabb, mikozben korbe is ert, es ugyanugy a 4-eset is ismetelte.

Nincsen 2-es villamos Grazban. De tipikusan mutatja a pelda, hogy hogyan mukodik az LLM. Ha nincs olyan villamos, akkor a legvaloszinubbet adja, ami egy masik grazi villamos.

Masik pelda, hogy nem tud helyes valaszt adni, hogy melyik a legnehezebben maszhato hegy egy hegycsoportban, mivel a valoszinusegek es a sok tulzo emberi allitas miatt egy nagyon nepszeru, kozepnehez hegyet fog mondani (az egesz Alpokra elkezd pl. Eigerezni...).

Ez az alapproblema reszben kikuszobolheto, mar azota a ChatGPT is helyes valaszt ad a 2-es villamosos kerdesre, de teljesen pusztan ez a technologia mindig hordozni fogja

Arról nem beszélve, hogy nem mondtad neki mit csinálsz az autómosónál. Ott vesz fel a haverod és mentek tovább? Mi mással mennél ha nem gyalog?

Koszos a biciklid és mi lenne egyszerűbb mint bedobni egy százast az autómosóba és lecsapatni? Mi mással mennél mint biciklivel?

Én inkább attól félek mi lesz azokkal a munkaerőpiacon akik még azt sem veszik észre hogy a gép jól válaszolt, ők tették fel rosszul a kérdést.. Ja nem, nekem ettől szerencsére nem kell félni hiszen megdolgoztam érte.

Nem a hivatkozott példától lesz megbízhatatlan, hanem attól, hogy egy LLM a feltanítása alapján a legvalószínűbb választ adja. Akkor is, ha nincs helyes válasz, vagy csak nem ismeri azt. De elképzelhető, hogy más technológiával kombinálva ez kiküszöbölhető.

A hozzászólásom lényege nem ez, hanem az, hogy ha feltételezzük, hogy megbízhatóan működik, az sem feltétlenül jelenti azt, hogy kiváltja az embert. Az AI nélküli hagyományos algoritmusok teljesen megbízhatóan működnek, és ha az emberek 95%-ának megfelelő tanács adása a cél, akkor már rég leválthatták volna a pénzügyi tanácsadókat. De nem tették.

Ez OK, de ebben az esetben csak a user interface-t cseréltük emberről LLM-re, ráadásul annak is csak egy részét, az emberi nyelvet. Ez azért távol van attól, hogy az emberek nagy részét leváltja az AI, és nem kifizetődő semmit tanulni.
És társadalmi forradalom sem feltétlen lesz belőle, ahogy nem lett abból sem, hogy a hivatásos sofőröket leváltotta az amatőrök által is vezethető személyautó, a telefonközpontosokat az automata telefonközpont, a liftkezelőket az automata liftvezérlő, a kézi esztergályosokat a CNC gép, a postásokat az elektronikus kommunikáció, a mozdonyfűtőket a dieselmozdony, a fénykép előhívókat a digitális fényképezőgép. Más munkát végeznek helyette. De arra is van példa, hogy ugyanazt: a mozdonyvezetőket nagyon rég leválthatta volna az automata vezérlés, de mégis csak az esetek kisebb részében tette.

Pedig erre a kérdésre még az ország gázszerelője is tudná a választ. 😀 Gondolom...

Szerintem az AI-ra egyébként úgy érdemes tekinteni, mint egy bármilyen tool-ra. Neked, mint felhasználónak kell tisztában lenni a képességeivel, a határaival és hogy mire tudod használni és mire nem.

Arra is érdemes gondolni, hogy erre a kérdésre az emberek egy része (pl. az autisták) is a gyalogot mondaná.
Másrészt az emberek sem tévedhetetlenek. És ha az AI csak egy hajszállal kevesebbet téved, akkor nem sok remény van.

A grafikusok, fejlesztők kapcsán is megmarad az emberi tényező.
Mert a valódi munka mindig a humán igények lefordítása volt. Az eszközkészlet változik. Grafikus-tipográfus barátom negyven éve még nyomdaipariba járt, tanult kéziszedést. A kilencvenes években ugrott a Quarkra, a kétezres években az Adobe-ra. Lassanként le lett cserélve mindenki gépre Macre. Manapság meg sok munka jön be úgy, hogy Canva, Adobe Firefly stb. kell hozzá.

Ő még mindig tipográfus és grafikus. Csak éppen ólombetűt már csak ünnepnapokon lát. És pont hogy a fizikai munkások koptak ki alóla, hiszen minden iparág irdatlan mennyiségű fizikai munkát igényelt és igényel ma is, képzett emberektől is.

A CT esetében az AI nem is új és nem is viselkedik piacilag másként, mint a korábbi szoftverek. Ezek a szolgáltatások észrevétlenül épülnek be az ellátási láncba.

Ezt teljesen máshogy látom. Pl. a supermarketek termékújságaiban a "fotókat" már AI készíti. Én amikor egy kis internetes mini-vállalkozásban gondolkodtam mellékesként az AI-t kértem meg, hogy csináljon logo-t. Én mondjuk különben sem fizettem volna ezért grafikusnak, de amilyen végtelen gyors és egyszerű volt, nem gondolom, hogy bárki más ne így tenne aki ismeri ezt a lehetőséget.
Ötlettől, döntésig, végleges termékig pár óra alatt megvagy, közben átnéztél 10-15 verziót, finomítottad és alig fizettél érte valamit. Ezt hogyan tudná egy grafikus akárcsak megközelíteni?

Mi az a "CT"?

> Mi az a "CT"?
https://hu.wikipedia.org/wiki/Komputertomogr%C3%A1fia

Na igen, akinek egy egyszerű google keresés nem megy, azokkal se tudom mi lesz a munkaerőpiacon. Na majd ósztijában!

Azert a vizszerelo since biztonsagban. Nehany ev, es a humanoid robotok elkezdik megkozeliteni az embereket kepessegekben. Gyorsan betanithato lesz barmelyik szakmara.

A masik meg az, hogy az LLM eknek mar nincs olyan horrobilis szamitasi igenyuk sok esetben. Egy 70B-s modell mar eleg sokat tud, sokmindenre Jo lehet.

De hogy valaszoljak arra, hogy mit erdemes tanulni:
Nem veltlenul hivjak GenAI -nak. A Gen a generativot jelenti, nem pedig a creativot. Vagyis barmit lemasol neked nagyon jol, ezert van, hogyha megkered, hogy valamit rakjon ossze, amihez hasonlo modulok mar leteznek, azt siman megteszi. Ezert tudtal vele siman leprogramoztatni egy szotanulos jatekot, Mert Minden reszfeladatra volt mar peldad.
De ha a grafikust nezzuk, akkor logot is tud csinalni. Valoszinuleg egy egeszen jot is, de kiemelkedoen jot valoszinuleg nem fog tudni.

Nem gondolom, hogy rovid idon belul akkorat fog lepni az akkumulator ipar. Pedig bar csak lepne, akkor az emberiseg minden problemaja el lenne odazva. Viszont az olcso, hatalmas kapacitasu akkumulator nelkul a vizvezetekszerelo humanoid gazdasagosan nem valthato ki. A gyalogsagi baka es az atomeromu karbantarto igen.
Viszont nem is szukseges a fizikai munkak "kivaltasahoz" robot. Gondolj(atok) bele. Egy okosszemuveg az iq 80-tol felfele barkit barmilyen hasonlo munkara kikepez (elegseges szintre) 2 nap alatt. Innentol a kreativ fizikai szakmak mind kuka.

Biztos lesz humanoid robot ami el is utazik a Mikó utca 15-be, felmegy a lifttel, csönget, analizál, csőgörényezik, kitakarít, fizettet, de hogy azt nem úszod meg többhavi fizetésedből sem, az tuti.

"Azert a vizszerelo since biztonsagban. Nehany ev, es a humanoid robotok elkezdik megkozeliteni az embereket kepessegekben. Gyorsan betanithato lesz barmelyik szakmara."

Nem kell robot, hogy cumizzon a vizszerelo is, a sok munkanelkuli irodista majd maganak (szomszednak, rokonnak) fog csapbetetet cserelni. Tapasztalt vizszerelo a bonyolultabb melokhoz kell majd, de ott is lesz konkurrencia az atkepzett infosokbol. 😀

a sok munkanelkuli irodista majd maganak (szomszednak, rokonnak) fog csapbetetet cserelni

Ez lényeges, és ez még az önellátó-antikapitalista mozgalmakat is felerősítheti (amíg relevánsak maradnak a kb. 2022 előtti anyagok, amiből a modellek okoskodhatják a megoldásokat).

Kezdőnek döbbenetesen sokat segít barkácsolni, szerelni egy ChatGPT Plus szintű modell is, főleg, ha a legokosabbra van beállítva (nem olyan dolgok, amiket el lehet rontani, inkább olyan, amire csak nem gondolt volna magától, vagy úgyis kénytelen az infot ellenőrizni, pl. valóban kapható-e mikiegér keresztmetszetű díszléc az OBI-ban, hisz meg kell vennie.)
Ha nem érted, visszakérdezel akárhányszor, senki nem röhög ki. Ha a sajátodat szereled, sürgetés sincs, max. az, hogyha kellemetlen az elromlott cucc hiánya. 🙂

Értékesítéssel foglalkozom. Rengeteg kereskedelmi, bérleti, üzemeltetési szerződés megy át a kezemen, nagy ügyfélállománnyal. Az ügyfeleim között van egyéni vállalkozó, de több száz fős multinacionális cég is, saját beszerzési és jogi osztállyal.

A munkám része, hogy szerződéses feltételekről, árakról és szolgáltatási szintekről egyeztessek beszerzési vezetőkkel, jogászokkal. Nincs jogi végzettségem, viszont van húsz év, több iparágon és értékesítési modellen átívelő tapasztalatom.

Pár éve, ha felmerült tíz kérdés, abból nyolcat továbbküldtem a jogásznak véleményezésre. Ma legfeljebb egyet. A többit az AI és a saját tapasztalatom segítségével megoldom, vagyis többségében az érvényesül, amit én képviselek.

Nem tudom, mit fognak csinálni a pályakezdő jogászok, akik eddig alapvető szerződéseket írtak és véleményeztek. Nem irigylem őket.

Legutóbb amikor ügyvédnél voltam felmerült egy olyan kérdés amire nem tudta kapásból a választ. Nyilván már sejted, hogy ő is az AI-t kérdezte meg, nem a szakértő kollégáját.

A humanoid robot szerintem zsákutca, pont ahogy a Metaverse és más human-like megoldások. CNC, robotkarok, humanless raktárak kis platformrobotseregei - ezek viszont virágoznak.

Az okosotthon termékek kapcsán is az derült ki, hogy rengeteg ostoba terméket használunk inkább, amik az adott célra tökéletesek. És vezéreljük őket a telefonról. Az agentic AI-ban mindig ott lesz az emberi felügyelet paradoxona, ezért nem 1-2 szuperokos, szuperhumanoid eszköz felé megy a technológia, hanem arra, hogy már a hűtő, a kocsi, a vízipisztoly is single board számítógépet tartalmaz.

Ami a "sosem fáradó robotokat" illeti: Erről közgazdászok már korábban kijelentették, hogy ez gazdaságilag egy paradoxon. A robotoknak kvázi fix üzemeltetési költsége van: áram, javítás stb. Az embereknek viszont lehet azt mondani, hogy "bocs, idén már nincs fizuemelés". A gazdasági entitásoknak sokszor pont az termel stabilabb hasznot, ha embereket foglalkoztatnak - mert kizsákmányolhatóak. Az eszközköltségeknél alacsony belépési költség, erős megtérülés kell.

Ennek szemléletes jeleit adja a mostani agentic AI piac (ami ugye még csak szoftver, nem hardver): komoly problémát okoz a cégeknek a Claude előfizetések kiköhögése. Ezek fix költségként jelennek meg, sokkal drágábbak, mint a fejlesztők által kért fizetésemelések, közben meg nem hozzák be azt a hasznot, amit kellene. Sőt, az AI-piac tőkezabáló trendjei miatt pont az Claude-előfizető szoftvercégek kezdtek stagnálni.

Erdemes azt is figyelembe venni hogy jelenleg az AI cegek elegge vesztesegesek, es borzaszto sok penz megy el az infrastruktura kiepitesere ami gyorsan elavul. Sok uj modell mar egyre dragabb arazason fut hogy kevesebb legyen a veszteseg es van ahol mar olcsobb az embereket ujra alkalmazni (persze lehet csak ideig-oraig)
Borzaszto sok aram es adatkozpont kell hogy a potencialis jovobeli igenyt is majd letudjak fedni (amik kozul mar most sokat mondanak vissza).
Ugyhogy az is erdekes lenne, hogy a fejlodes eljut-e oda is hogy olcsobba tegye es kevesbe kornyezetrombolova a technologiat, vagy nagyon fel kell tolni a modelleknek az arazasat amit aztan a cegek is meggondolnak hogy megeri-e annyiert. (Persze lehet hogy nem lesz mas valasztas ha nem akarnak lemaradni).
Ha lesz is nagy problema az nem feltetlenul a kovetkezo nehany evben lesz. Persze (mint barki) en is lehet nagyot tevedek

"Ebből mit nem tud már most is megcsinálni az AI, főleg, ha rászabják a cégre? Négy-öt ember munkáját gond nélkül kiváltja."

Nem tud felelősséget vállalni. Ezért nem fogja kiváltani sem az ügyvédet, se a tanácsadót, se a programozót, se az orvost, mert az AI nem vállal felelősséget a válaszokért, ahogy ez le is van írva.

És komoly szakember ezért nem fog vakon megbízni a válaszaiban sem. Tehát eddig jogászként felcsaptad a könyvet, hogy megkeresd a konkrét jogszabályt, most extra lépésként megkérdezheted az AI-t, majd ugyanúgy felcsapod a könyvet, mert nem tud 100%-osan megbízható választ adni. Ugyanígy megy a többi szakterületen is, és ez nem fog változni az LLM-ek működési alapjai miatt. Nem determinisztikus rendszerek ezek, hanem probabilisztikus, ergo sose fogsz 100%-osan megbízható választ kapni, még a 2x2-re se fog 100%-ban jó választ adni soha.

Szerinted ma az AI válaszok hány százalékát ellenőrzik le a felhasználók független forrásból?

A márkaszervizek kívülről így tűnnek, de a jobbak komoly munkát is végeznek: pl. Sprinter mentők tucatszám állnak motor nagyfelújításra várva, garanciális hibák javítása (manapság már egy drágább autó fényszóróját sem lehet akárkire rábízni), végső menedékes hibamegállapítás, amivel 3 szerviz is csak pingvinezett stb.

Az lesz érdekes, ha majd a szervizt is robotsor végzi. 🙂

Itt nyugatabbra már most se kell ember, a website-on lefoglalom az időpontot stb.

A hülye értékesítő tolt ki velem tavaly. Új abroncs miatt voltam a szalonban, és befoglaltam az éves szervizt. A baromállatja lefoglalta nekem a szervizt, a műszakit meg nem csinálták meg vele. (Collect & deliveryért fizetek nekik külön, vitték és hozták a kocsit.)

Ez remek módon csak utólag, fél év múlva derült ki, amikor valami miatt felhívtam az ügyfélszolgálatot és a nő rögtön mondta, hogy hoppá...

Bezzeg a hülye értékesítőik volt, hogy hetente hívogattak (emiatt föl se veszem) és SMS-eztek a remek ajánlataikkal új kocsi finanszírozása végett. Egyik birka se írt volna, hogy hülyegyerek, nincs a kocsidon műszaki. Pedig nyilván ott volt a rendszerben, ha az ügyfélszolgálatnak azonnal kidobta a rendszámra...

időpontegyeztetéshez pár év múlva nem biztos, hogy kell ennyi ember. A mostani hat ember helyett lesz egy, aki a cifra dolgokat kézzel kezeli, de egy éves kötelezőre bejelentkezéshez vagy egy szélvédőcsere árajánlathoz már ma se kellene ember.

Ezekhez pont nem kellett az AI-őrület előtt se (ha az ügyfél kezdeményezte). Pláne, ha az autója adatait már eltárolták.

Online űrlap, munka kiválasztása, időpontfoglaló naptárral, visszaigazolás e-mailben (ha előleget/biztosítékot akartak szedni a lefoglalt időpontra, azt is lehetett AI nélkül).

Last edited 6 napja by jurta

Sokkal egyszerűbb lesz minden, de szükség lesz a logikus gondoljozasra. 2 éve nem írtam egy sor kódot sem és olyannakat tudok megcsinalni, amit eddig nagyon lassan tudtam volna lefejleszteni. Konkrét anyagi előnyöm származott, olyan munkához jutottam amit AI nélkül nem tudtam volna megcsinalni + olyat amihez 10 fős csapat kellett volna. Szóval kell sokat használni, sok minden nagyon meg fog változni, ne féljetek tőle

3 éve használom professzionális szinten a nyelvi modelleket + van egy folyamatban lévő doktori képzésem és nagy rálátásom az IT iparra + gyártásra.
A kódoló agent-ek túlértékeltek. Egy szakembernek hatalmas segítséget adnak, de a jelenlegi architektúrának elvi korlátai vannak, amit lassan elérünk.
Két akut probléma van velük: a vibeolt kód nagyon duzzad, mert az LLM-ek képtelenek újrahasznosítható modulokat írni és és a rosszul szervezett kód méretnövekedésével az LLM-ek teljesítménye nagyon romlanak. A másik gond, hogy a tokenek nagyon drágák, csak még sok cég nem fizeti ki a valós árat.

A modern gyártósorokat automatizálhatóvá tervezik. Nem humanoid, hanem speciális robotok kellenek. Előbbinek nincs valós haszna.

A munkaerőpiacra persze nagy hatásuk lesz. Szerintem azoknak az embereknek van jövője, akiknek van egy széles, általános rálátásuk a szakterületükre.

Szerintem a gyerek menjen oda, ami érdekli, akár egyszerűen kiváltható AI-val, akár nem. Valamennyi jó szakemberre akkor is szükség lesz, ha a feladatok 90-95%-át elviszi az AI. A maradék 5% számít. Egy bizonyos szinten felül az AI-hoz is érteni kell és az adott szakmához is hogy hatékonyan tudd használni.

Folyamatban van az átalakulás, de szerintem első körben inkább tisztulni fognak az érintett szakmák. Jobb szakemberekre lesz szükség, mert az alap dolgokat az AI megoldja.

Számításba kell venni az is, hogy az AI is exponenciálisan fejlődik,

egyrészt a mai hibákat holnap már nem fogja elkövetni,másrészt ha már a gyárakban is ember formájú, több szabadságfokú és erősebb robotok lesznek, akkor bármilyen fizikai munkát is el fognak végezni... tehát sem a villanyszerelők, sem kőművesek munkája nem lesz biztonságbanNagyon nem látjuk mi jön pár év múlva. Remélem, hogy a tengerparton fogunk koktélozni az AI által megtermelt javaket felhasználva, de egy Mátrix - szerű világ reálisabb 🙁

Második fejezet: Hallgatok Pogi podcastot pl, őszerinte a támogató feladatkörök, ahol human faktor van azok mindig kelleni fognak (orvos, ápoló, stb ) .. persze ma még kell, de a most felnövő generációnak, akik kvázi már robotokkal nőnek fel, nekik már nem lesz idegen a robot olvas neki történetet, vagy teszi tisztába..

Last edited 13 napja by SM

Hmm, a tisztabateves problemaja mar nalam is bekoszont a tavoli horizonton. Ha lesz olyan intezmeny, ahol ember helyett robot vegzi, akkor en azt szeretnem valasztani.

Az egész gondolat ott hibádzik, hogy a havi 350.000 Ft nyugdíjból még a pelenklára is alig telik, nemhogy 100 milliós robotra.

Ha pedig a kőmúves 100 milliós robotját Józsika elviszi a MÉH-telepre, akkor lehet pislogni.

A tetszoleges keleteuropai nyugdijbol sem tellik pl. CT-re se, kezelo, hasznalo szemelyzettel egyutt meg plane nem. Ne is acsingozz keresd meg a halogodrod, ha faj valahol.
Szoval a valosag meg az lesz, hogy egyre kevesebb apolo lesz hisz oregszik a nepesseg (europa). A robot meg egyre olcsobb lesz, tehat idovel minel csorobb vagy, annal valoszinubb, hogy ha valaki tisztaba tesz, akkor az robot lesz. A tisztabatevesre irtam, hogy az spec. szerintem embersegesebb robot altal

Elvileg teljesen logikus, amit mondasz, de valójában a fejlesztések legutolsó állomása az egészségügy.

Nézd meg, milyen robotizált az autógyátás, az állattartás-haltenyésztés, míg az egészségügy egy feneketlen pénznyelő.

Én is sokat használom, Fable 5-ot és Opus-t is, és nagyon sokszor kell a körmére nézni. Azért az LLM tudásnak nagyon közelítjük a lehetséges felső határát, persze nem panaszkodom, így is elmebeteg mértékben segít, de azért kezeljük helyén, hogy Musk 2016-2017-re ígérte a 100% önvezetési képességet a Teslákba, és köze nincs hozzá senkinek azóta sem, csak gyűlnek a balesetek, pedig 9 év telt el azóta...

En huledezek Sonnet 5 tudasatol nullarol inditott alkalmazasokban, alaposan atbogaraszom a modositasait, hiszem es vallom, hogy nem hogy juniorokat, de atlag mediort le tud valtani egy hozzaerto keze alatt.

Remélem, hogy a tengerparton fogunk koktélozni az AI által megtermelt javaket felhasználva

Azt biztos nem, nem férünk mindannyian oda. Tengerpartot jelenleg még az AI sem tud generálni. (ezt most ne csak szó szerint értsd, egyes luxusjavak mennyisége korlátozott.)

, de egy Mátrix - szerű világ reálisabb

Mindig emelem a kalapom az előtt, hogy lényegében a Mátrixot megírta már 68 évvel előbb Aldous Huxley (Szép új világ). Ahogy az AI-t a feltétel nélküli alapjövedelemhez és virtuális valóságbeli szórakozáshoz kezdik kötni, s közben beszélni sem tudó 1,5 éveseket látok nyomkodni az érintőképernyőt, attól tartok, el is érkezik az a disztópia. Ajánlom elolvasni - amíg még tudunk olvasni, mert ez sem hiszem, hogy így marad.

Last edited 6 napja by jurta

Pont ez a dilemma nalunk is. A gyerek valamilyen kreativ szakban gondolkozik. A chatgpt kidobott vagy 10 lehetseges iranyt, en meg mondtam neki, hogy csinaljon egy osszehasonlito tablaztot, amiben a szakirany mellett ott van, hogy kb. milyen cegeknel lehet elhelyezkedni vele, stb. amely listaban ott volt az is, mekkora valoszinusege van, hogy az AI elveszi azt a munkat. Egyelore az latszik, hogy a kreativ reszet meg nem veszi el rovid tavon, de a repetitiv, jol automatizalhato dolgokat igen.

"Többször van, hogy valakinek a portfólióját nézve csak a fejemet fogom és kérdezem, hogy ez hogy ez a portfólió hogyan jött létre, mert egyáltalán nem megfelelő a számára és nem is tudja, hogy miket vásárolt össze. Egyre gyakoribb a válasz, hogy megkérdezte az AI-t, amelyik pocsék választ adott."

Tudnál rá egy példát mondani, csak a tréfa kedvéért?

Nekem az AI faktor befektetést is ajánlott, azzal a meghagyással, hogy évi 2-2,5% növekedési pluszt tud adni az S&P-hez képest, extrém kockázat mellett.

Egy hét múlva ott tartottunk, hogy a költségek levonása után csak inkább 1-1,5% növekedési pluszt ad, de a kockázat nem lényegesen magasabb, mint az S&P esetében.

Még így is elég hasznos volt, csak nem lehet benne megbízni.

Na, pont igy vibe kódol szoftvert is, ha csak azt kéred tőle amit látni akarsz, ügyfél központú rálátás, az iparág ismerete és a lehetőségek átgondolása nélkül.

Ifjabban azt képzeltem, hogy a fejlődés úgy lesz, hogy lassan a fizikai munkákat átveszik a robotok: bányásznak, hegesztenek, építenek, gyümölcsöt termelnek, meg ilyenek. Az embereknek meg csak elmélkedni kell, ha akarnak.
Most az AI elmélkedik, az emberek meg lemennek a bányába, stb.
Ez az AI jelenleg a "hagyományos" logika szerint felépített rendszerekből távolítja el a felesleget, a gazdaságosság határáig.
Sajnos a végkifejletre ötletem sincs, pedig készülni kéne 🙁
Példa a feleslegre: vettem egy pixel telefont, ami nem működött pont azon a hálózaton, amire elő voltam fizetve. Az összes ügyfélszolgálatos lerázta a problémát azzal, hogy minden rendben van a szolgáltatónál (pedig csak a VOLTP-t vagy mit kellet volna bekapcsolni). Nahát ők helyettesítve lesznek, amit nem bánok. Viszont aki meg tudta oldani az esetet, az ki lesz rúgva, mert olcsóbb, ha én elmegyek.

Remek tömör összefoglalás. Tényleg hasznos is lehetett volna az AI, ha nem iparmágnások szabadították volna rá az emberiségre a nyerészkedés miatt, hanem először szakmai berkekben fejlődött volna ez is, mint minden épkézláb technológia.

Nem tudom, azzal valójában mi a helyzet, hogy csak a meghülyített befektetők tartják életben az AI-lázat, és csakhamar kénytelenek lesznek minimum 10-szeresére emelni a kreditek árait a szolgáltatók, ha nem akarnak csődbe menni. Az elemzők szerint ennek az lesz a következménye, hogy nem fogják orrba-szájba az AI-t erőltetni a cégek ott is, ahol valójában semmi szükség rá.

AI oldalon is a tömegesség lesz a megoldás. Ki gondolta volna, hogy az online zenehallgatás ilyen tömegeket vonz, így az ár is megfizethető lett.

Wroooong. Az AI-t nem tudod méretgazdaságosságra építeni, mert a számításokat mindenkinél el kell végezni, szinte lineárisan nő a számítási igény az elhasznált tokenek számával. A klasszik szoftver pont azért volt jó, mert egyszer lefejlesztetted, utána már nincs attól többletköltség, hogy több helyre is eladod.

"Egyre gyakoribb a válasz, hogy megkérdezte az AI-t, amelyik pocsék választ adott. De ez nem azért van, mert nem tudna jó választ adni, hanem még senkinek nem jutott eszébe leprogramozni egy jó AI pénzügyi tanácsadót."

Le merem fogadni, hogy már legalább millióknak eszébe jutott a fél-egymilliárd körüli rendszeres AI-használó közül...

Van, aki a Gell-Mann amnéziához hasonlítja, én csak tranzitív Dunning-Kruger jelenségnek hívom, amikor valaki azt gondolja az általános LLM-ekről, hogy azok mindenhez értenek, amihez ő maga nem ért (pl. jog, fordítás, programozás, grafika, stb.), de valamiért pont az ő szakterületén mégis silány válaszokat adnak további fine-tuning és prompt engineering nélkül.

Tapasztalataim szerint az általános LLM-ek legalább olyan jól fordítanak, jogászkodnak és programoznak, mint amilyen jó pénzügyi tanácsokat adnak...

15 évet a SEO-ban dolgoztam, ez alapvetően egy adatvezérelt és elemző szakma. Eddig 100-ból 90 ember kamu szakértő volt, az AI óta meg a maradék 10 sem kell. Az AI mindent tud (önmaga szerint), de adatok nélkül nem tud adatvezérelten dönteni. Ha bármilyen témában megkérdeztek tőle 100 kulcsszót, hasraütve mond valamit, pedig meg kellene nyitni egy top weboldalt a témában egy SEO eszközben, és ott lenne a kulcsszólista. Amit persze tovább lehet finomítani szakértőként.

És mégis, olyannyira beszűkült a piac, hogy elmentem IT területre. Mint kiderült, Ausztriában brutál nagy hiány van diplomás IT-sekből. Nem bánom, ahogy már írtam, évi fix 34000 EUR fizetés, pénteken 12:30kor munkavége, és már most brutál sokat tanultam. Ez egy olyan résszakma, ami mindenhol a világon kell Linux rendszerekkel dolgozunk távolról.

EMBEREK VAGYUNK, tudnunk kell folyamatosan megújulni!

Last edited 12 napja by Copywriter

"évi fix 34000 EUR fizetés"

Nem kevés az egy picit? 12,5 millió alatt van, az IT-ban már itthon sem feltétlenül kiemelkedő, és Ausztriában nem is 12 hónapot fizetnek. (Persze ha részidőben, mondjuk heti 30 órára szól csak, akkor OK lehet kb.)

Tekintve, hogy most gyakorlatilag pályakezdő vagyok ezen a területen, nekem nagyon megfelel havi 2350 nettó. Plusz ugye évi kétszer 3000 eur. És ne felejtsük, hogy egy légkondicionált irodában dolgozunk top felszereléssel, és senki sem hajt minket. Pár év, és utána viszont a világon bárhol elhelyezkedhetnék vele, bár jelenleg nem tervezem a távozást. Brutál módon bővül a cég, és sok lehetőség lesz még itt.

A magyar milliós fizetésről én is hallottam már meséket, de a gyakorlatban nem igen találkoztam még ilyen IT-sekkel. Tudom, hogy vannak, de az IT nem garancia arra, hogy ne négyszáz nettóért dolgozzon valaki.

Edit: Ezzel csak azt akarom mondani, hogy én elégedett vagyok a mostani munkával és fizetéssel, akkor is, ha ez másnak kevés vagy sok. Az én helyzetemet nem befolyásolja.

Last edited 10 napja by Copywriter

Jogos, ezt a körülményt figyelmen kívül hagytam. 🙁

Itthon ez valóban nem a pályakezdő, hanem inkább a medior teteje, szenior alja szint.

Ez Ausztriában kb betanított munkás + 10% bér azt is figyelembe véve hogy te lehet hogy 4 órával kevesebbet dolgozol hetente.

Nem tudom te hol tájékozódtál, de Budapesten értelmesebb cégeknél hét számjegyű a kezdő fejlesztői alapbér. Plusz bónusz, cafeteria. 5 év tapasztalattal 2 millió feletti.

Last edited 8 napja by Random 5letek

Tippre a leírásból nem fejlesztő, hanem üzemeltetői pozi. De amúgy itt a Hays Salary Guide sorvezetőnek: https://cdn.penzcentrum.hu/files/h/hu-hays-hungary-salary-guide-2026.pdf
Ettől függetlenül én is kevésnek érzem, igaz rég voltam már pályakezdő, nem tudom hogy fizetnek azon a szinten.

Egy ismerősöm mondta jó 15 évvel ezelőtt, hogy a munkaalapú társadalom szerinte alapvetően hibás fogalom, ő ugyanis nem szeretne napi 8 órát dolgozni.

Így ha azért harcolunk, hogy legyen 40 órás állásunk, akkor magunk alatt vágjuk a fát.

Ha szimplán az a probléma, hogy túl sok a munkakerő, akkor bevezethetjük a napi 7 órás plafont fizikai dolgozóknak.

Az igazi probléma az ÁTKÉPZÉSI rendszer, az elavult 3+2 éves jelenléten alapuló oktatás.

A probléma a munkaidő általános csökkentésével, hogy a túlórázás személyes hajlandósága egyre jobban nő...

A Copilot sok millió céges e-mailt lát. Nm kell találgatnia vagy jósolnia, pontosan tudja mi várható. Ezt a tudást nem neked fogják átadni hanem még nagyobbá válnak, te meg örülsz, hogy helyetted válaszol a levelekre. Nemhogy munkád nem lesz de munkaadód sem.

Ha az AI nagyon sok ember munkáját veszi el, akkor azoknak a munkáját, akiknek még megmaradt nem fogja tudni kifizetni a sok munkanélküli. Emiatt a cégek is lehet, hogy az AI-al sokkal nagyobb profittal tudnának dolgozni, de nem lesz, aki megvegye a terméküket, így előbb utóbb csődbe mennek.
Mindennek a végén az embereknek kell kifizetni minden terméket, szolgáltatást vagy közvetlenül vagy közvetetten. De ha az emberek nagy többsége munkanélküli és nincs pénze, amiből fizessen, akkor előbb utóbb összeomlik ez a rendszer, mert nem lesz fizetési oldal.

Ha minden embernek feleslegesse valna a munkaja, akkor csak a toketulajdonosok fogyasztananak, csak nekik termelne a robotizalt tarsadalom.

De ez eleg valoszinutlen, mert az osszes korabbi automatizacios lepesnel sem ez tortent, hanem elkezdtek mas munkakra alkalmazni az embereket, illetve tobb munkat vegeztek el az emberek az automatizacioval kombinalva. Ez persze a korlatozott termeszeti eroforrasok miatt elvileg necces, gyakorlatilag a szolgaltatoparnak vannak nem termeszeti eroforras igenyes agai.

A korábbi ipari forradalmak emberöltők alatt zajlottak le, de akit egy változás megszivatott, annak nem lett jobb az élete attól, hogy 60 évvel később olyan új munkakörök terjedtek el, amikkel az akkor élők már el tudtak helyezkedni. Aki a változáskor megszívta, az bizony éhenhalt, belehalt vmi nyomortelepen elkapott betegségbe, esetleg vmelyik meszesgödörben végezte valamelyik háborúban. És mivel a változás lassabb volt, kevesebbeket érintett egyszerre. A mai fejlődés sokkal gyorsabb, szélesebb rétegeket érint, nem lehet ezt annyival elintézni, hogy régen is megoldódott

Az nem érv, hogy régen mindig megoldódott.
Egyébként a probléma szerintem az, hogy az emberi igények nagy része bizony ki lett elégítve, azoknak már csak a természeti erőforrások szűkössége szab határt.

Az AI először hatékonysag és versenyképesség növekedést fog okozni amelynek köszönhetően nagyon sok ember munkája feleslegessé válik. Ez kezdetben gazdasági és tőzsdei növekedést jelent. Később azonban amikor a munka nélküli rétegek nem tudnak miből fogyasztani, recessziót és tőzsdei zuhanást, összeomlást. Szétszakado társadalmakat és civilizációs problémákat. Ez egy lehetséges forgatókönyv akár már pár éven belül.
Ennél sokkal aggasztóbb az a forgatókönyv, hogy a klímaváltozás miatt összeomlik az emberi civilizáció. Lehetséges, hogy pár éven belül, nehéz megjósolni, hogy mennyi időnk van.

off: https://www.uniladtech.com/news/tech-news/elon-musk-split-fortune-equally-earth-shocking-amount-016582-20260618

Erdekes gondolatkiserlet, viszont nem tudna a vagyonat szetosztani, mert nem penzben van.

https://youtu.be/sQGZXrzykpU
Egyáltalán nem realitas hogy minden emberi munkát kivált az ai. Vannak területek, főleg azok amik most nagyon drágák, ahol esetleg megérheti.
De az ai jelenlegi modellje az hogy olcsón adják amíg kiszorulnak a versenytársak, az áremelések már el is kezdődtek.
https://fortune.com/2026/05/22/microsoft-ai-cost-problem-tokens-agents/
Már most ott tartunk hogy egy programozott is olcsóbb alkalmazni, mint az ait.
És ez csak rosszabb lesz, a buborékot az fogja vagy kipukkantano, vagy leereszteni, hogy realizalodik az ai valodi ára, nem az amit a tech milliárdosok kifizették előre ami jelenleg van, hanem az hogy biza ezzel profitot is kell termelni.

Őrülnék ha ezeknek a dolgoknak is utánaszámolnál egy cikkben kedves kiszámoló!

Egyebkent mas, aki programozo, ti nem talalkoztatok munkahelyen azzal a problemaval, hogy egyes szoftvereket jogi okokbol nem engednek LLM-el irt koddal modositani? Mert nalunk, logisztikai szoftvert fejlesztunk, az lesz a szabalyzat, hogy a frontend, ami minimalis uzleti logikat tartalmaz, fejlesztheto lesz AI-al, de a backend nem, benyalhatja az LLM a kodbazist, es kerdeseket tehetunk fel, de az altala generalt kodot tilos hasznalni, azert mert jogilag ez esetben esetleg igenyt tarthat az LLM jogtulajdonosa arra a know-how-ra, amit a kod tartalmaz.

Ez Ausztria es Nemetorszag, de EU-s szabalyokra hivatkoznak.

Nálunk csak céges Copilotot lehet használni, mert attól félnek, hogy a ChatGPT-be vagy más LLM-be betáplált céges kódokat és adatokat vissza fogja böfögni a versenytársaknak.

Elozo munkahelyemen, kereskedelmi bank magyar leanybankjanal, hasonloan ment mint nalatok, itt viszont ellenkezojetol tartanak, hogy az LLM nekunk gyartana le olyan kodot, amire aztan az LLM tulajdonosa jogilag igenyt tarthatnak. Ugy, hogy nem belsos lesz amit majd hasznalhatunk jovore.

Jelenleg meg ehhez kepest is gyerekcipoben jar a ceg a teruleten, mert korlatozottan Copilot 365-ot lehet hasznaln biztonsagos modban, ami csak egy chat, nem tud a kodbazisrol, illetve van egy ceges Confluence-el tanitott LLM, amit igazabol az hivott eletre, hogy a Confluence-nek hirhedten szar a keresese, nalunk meg rohadt sok info van Confluence-en (a tartalmak nagy resze nem kapcsolodik kozvetlenul szoftverfejleszteshez, de sok uzleti dologra ott lehet valaszt talalni)

Nebassz, nálunk is csomó szar van Confluence-ben, és tényleg használhatatlan a keresője 🙂

Neb.ssz, nálunk is csomó sz.r van Confluence-ben, és tényleg használhatatlan a keresője 🙂

Ez nyilvan megallapodas kerdese a vendor-ral.

Oke. Azt mondjatok meg nekem (de csak finoman) hogy jelen allas szerint az AI forradalom kozelebb visz a feltetel nelkuli alapjovedelemhez, vagy epp ellenkezoleg?

Szerintem igen. Azzal érvelek, hogy ahogy haladtunk az időben előre, egyre több ember kap valami jövedelmet úgy, hogy konkrétan nem dolgozik. Ma ezek elsősorban szociális juttatás címszóval mennek, de az valójában mindegy. Példa: Családi pótlék, GYES, GYED, Nyugdíj, Munkanélküli segély, NYES, Táppénz, Rokkantak támogatása, stb. Első körben ilyeneket fognak kitalálni, vagy a meglévőket kiterjeszteni.
Mondjuk szerintem ez AI nélkül is megtörtént volna.

És ezt ki fizeti ki, mert látszólag nem azok, akik a nagy hasznot húzzák a mostani gazdaságból. Akkor meg az egész egy Ponzi-séma.

Szenzációs előadás a generatív AI felemelkedéséről - IT-seknek és nem IT-seknek egyaránt.

After the AI Hype – What’s Real, and What’s Next - Richard Campbell - 2026

https://www.youtube.com/watch?v=uWnUnMphmPM&pp=0gcJCaMLAYcqIYzv

Szerintem most is az lesz mint mindig: egy csomó hülyeséggel sokkal kevesebb embernek kell foglalkozni mint eddig és azok a javak ugyanúgy meg lesznek termelve. A többi ember pedig termelhet további javakat.

Bar ugy lenne, hogy a kodolast kivalthatna az AI, de en meg nem voltan olyan munkahelyen ahol a programozas 20-30%-nal nagyobb resze lenne a melonak.

Egyfelol altalaban van 2-3 ev backlog, es sosincs penz uj emberre.
A munka meg ugy nez ki, hogy a fejleszto osszeszedi a requirementet (5%), gyorsan lekodolja amit kell (10%), leteszteli (10%) megmutatja es tisztazza a szukseges valtoztatasokat (5%) , modosit (5%) es kirakja a programot (5%).
Szoval ez 40%. Utana van meg 10% support, 10% infra, 10% integracios teszt support, 10% kommunikacio, 20% mindenfele aprocsepro dolgok.
A munka egy jelentos resze csak ticketek kuldozgetesbol all, meg engedelyezesek hajkuraszasabol. Illetve altalanos erzesem hogy minden mindig csak mukodget, de igazabol soha semmi sincs kesz. Remelnem az AI javit a helyzeten, de eddig minden produktivitas noveles csak a komplexitast novelte.

Pornoipart is fenyegeti erosan. Onlyfans milliard dollaros uzlet. De ma mar siman generalnak virtualis not akirol vegtelen szamu kepet, videot lehet felrakni. Tovabba tetszoleges szamu emberrel tud egyszerre csevegni 0-24-ben. Mar tobb olyan insta fiok is van ami virtualis de havi tobb ezer dollar bevetelt hoz.
Ami durvabb, hogy mar elerheto olyan app/weboldal ahova feltoltesz egy fotot es o a kepen lathato szemelybol meztelen kepet/videot general.

Erdekes oldalakat nezel 🙂

Facebook reklam videoban jott fel ez az alkalmazas ajanlas.

Érdekes profilja van rólad Cukkerbergnek, ha ilyeneket ajánl a FB.
😀

Nem a pornóipart fenyegeti, csak a hagyományos előállítást. https://en.wikipedia.org/wiki/Generative_AI_pornography
Látva a 2 hónappal ezelőtti Kiszámoló által fordított Financial Times-cikket is (arról, hogy már azért is születik egyre kevesebb gyerek, mert párok is egyre kevésbé vannak, és még a kijelzőnyomkodással is látszik némi korreláció), tartok tőle, lesz itt olyan tömeges függőség, amit az alkohol többezer éves története során nem tudott elhozni. Az ilyen dolgok felmenő rendszerben szoktak bevezetődni (az aktuális fiatalokkal kezdve), ne hitetlenkedjen senki az Y meg korábbi generációkból csak azért, mert az ő ismerősei (értsd: korosztálya) még nemigen foglalkoznak vele.

Last edited 6 napja by jurta

Ami durvabb, hogy mar elerheto olyan app/weboldal ahova feltoltesz egy fotot es o a kepen lathato szemelybol meztelen kepet/videot general.

Tudtommal erre az egyre - az AI által hirtelen ledöntött többi tabuval ellentétben - elég gyorsan lépett a szabályozás a nyugati világ nagy részében.

Last edited 6 napja by jurta

Azt azért ne felejtsük el ezek az LLM-ek szöveg generátorok (van kép és hang generátor is).
A beadott input szöveggel gyakorlatilag pongyolán fogalmazva szűkítjük a lehetséges kigenerált szöveget (mondhatni a beadott szöveget folytatja)
Az egész mivel statisztikai matematikai módszerekkel működik, halucinációra képes és nem tudja magáról, hogy halucinál-e. Ennek valószínűségét lehet persze csökkenteni, de az a technológia erre képes. Azaz emberi felügyeletre van szükség.
A kontextus növekedésével komoly gondjai vannak még ennek a technikának: azaz minél nagyobb szövegen kell egyszerre dolgozni úgy elszállnak az egekbe az erőforrás igényei, ha meg feldarabolja magának, akkor meg az eredmény lesz gyengébb.
Én mai tudással azt mondanám, hogy a szakmákat átalakítja...
A nagy tech cégeknek rengetegbe fáj ezeket az AI modelleket futtatni és még ez veszteséges.

nemtom, nekem nem tűnik olyan bonyolultnak a középkor óta asszem negyedszer is a helyzethez igazítani az adó + valamilyen alapjövedelem koncepciót... Sam Altman majd választhat, hogy adózik, vagy meghal. adózni fog

Ha rajta múlik, egyik sem, és mindent meg fog tenni ennek érdekében.

Azért kicsit más a jelenlegi lufi, mint a vasút vagy a dotcom. Azok olyan infrastruktúrát hagytak hátra, aminek volt értelme: Meggyorsult az áru- és személyszállítás, valmint olcsóbb lett. A dotcom az internet terjedését és sebességét gyorsította meg. Ha megépülnek az adatközpontok, és azok végül nem fognak kelleni, akkor ezek nem fognak használható értéket hátrahagyni. Ami jó lehetett volna OpenAI-nak, hogy mindenki Sora-s kismacskás videót gyártson, az (szerencsére) elég gyorsan kifulladt, a normál text outputhoz meg talán nem kell annyi adatközpont. Majd kiderül.

Az AI bonyolultsága nem függ attól érdemben, hogy milyen outputot generáljon, nem kell lényegesen kevesebb kapacitás a szöveges outputhoz, mint a videókhoz. Ami számít, az a neurális háló összetettsége, illetve a kezdő input (nem amit te beadsz 1-1 feladatnál, hanem ami a tanításra lett használva) nagysága.
A kérdés az, hogy ki milyen termékbe tudja az AI képességeket beépíteni majd, ezen fog múlni a siker/bukás. És akkor arról még nem is beszéltünk, hogy a jelenlegi LLM korszak csak egy szelete a mesterséges intelligenciának, meglátjuk meddig lesz ez a jövő, vagy jön helyette/mellé más.
Az adatközpontok szükségtelenné válásától nem tartok, sokkal inkább az avulás, és a brutális energiaigény lesz a probléma hardveres oldalon.

Az ilyen mondatokból látszik, hogy mennyire nem értesz hozzá:
"De ez nem azt jelenti, hogy ne lehetne leprogramozni egy kifejezetten erre fejlesztett modellt, amelyik kivülről tudja a valaha megjelent összes szakirányú könyv és tanulmány tartalmát ötven nyelven és ne lehetne betanítani ötven sikeres szakember segítségével arra, hogy az emberek 95%-ának bőven hozza azt a szintet, amit egy átlagos vagy attól akár jobb pszichológus jelenleg tud adni."

Elmondom, hogy az emberiség MINDEN írott és valahol digitális formában létrejött tudását felhasználták az AI tréningjéhez, azaz minden írott kontextust ismer. Egyébként ha megadod neki a könyvet, akkor be tudja húzni a context windowjába, és a könyv alapján ad választ.

Egyébként ha ezt a cikket beadod neki promptban, hogy ezek alapján kérdezgessen ki pénzügyi tanácsadásban, akkor a profi tanácsadót megkapod.

Cikkgyűjtemény
Új vagy az oldalon? A gombra kattintva találod az eddigi fontosabb cikkek gyűjteményét téma szerint.
Megnézem!
Keresés
Kövess minket
facebook
youtube
Hirdetés
Támogatás
Ha szeretnéd, van lehetőséged anyagilag is támogatni a munkánkat.

Átutalással a Raiffeisen Bank 12020407-01558219-00100002 számlaszámra a Kiszámoló Egyesület részére. A közlemény "Támogatás" (fontos!)
Bankkártyás támogatási lehetőség hamarosan. Köszönjük, ha érdemesnek tartasz bennünket a támogatásra.
Archívum

Archívum

crossmenu
linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram