A BMW és a Ferrari autóiban, a Netflixen lévő sorozatok vagy a Facebook elérésében, az amerikai NASA és az Európai Űrügynökség csillagászati számításaiban és az SAP vállalati szoftvereiben az a közös, hogy senki nem szeretné, ha lassabbak lennének. De az AstraZeneca és a Pfizer által gyártott gyógyszerek hatékonyságának növeléséhez is óriási számítási kapacitásra van szükség. Ez az, amibe az átlagfelhasználó bele sem gondol, legfeljebb amikor baj van velük.

A fentiekben az is közös, hogy a kereskedelemben közismertnek számító Amazon kevéssé ismert részlege, az Amazon Web Services (AWS) szolgáltató világot behálózó infrastruktúrájától függnek. Talán már ennyiből is belátható, miért számít az iparágban fontos, azon kívül pedig százmilliók mindennapjait befolyásoló hírnek, ha bejelent valamit a vállalat. Márpedig a re:Invent 2023 konferencián Adam Selipsky vezérigazgató éppen ezért lépett színpadra.

Az AWS vezetője keddi nyitóelőadásának elején hangsúlyozta: a technológiai és az üzleti modell sajátosságai miatt a legtöbb felhőalapú megoldást – megfelelő skálázás mellett – ugyanúgy igénybe veheti egy egyetemi kollégiumi szobából működtetett vállalkozás, mint egy nagyvállalat. Az Amazonnál a feltörekvő szereplőkre kifejezetten koncentrálnak, melynek egyik eredménye, hogy Selipsky szerint az unikornisok – a közgazdaságtani szakkifejezés az egymilliárd dollárnál értékesebb startupokra utal – 80 százaléka az ő infrastruktúrájukat használja.

Amazon Q

Az egyértelműen legfontosabb – és laikusok számára is beláthatóan hasznos – újdonság az Amazon Q névre hallgató vállalati chatbot. Ami már azzal is keltett némi izgalmat az emberben, hogy Adam Selipsky elárulta róla: bár neve a question (kérdés) kifejezésből ered, nem egészen véletlen, hogy hajaz a James Bond-filmek innovációfelelős Q ügynökére, illetve a Star Trek világának mindentudó és minden befolyásolására képes Q-jára.

Aki számára nem kell bemutatni a ChatGPT-t, az az alapját már érti az Amazon most bejelentett vállalati chatbotjának is. Természetes nyelven lehet kérdezni és kérni, a mesterséges intelligencia pedig a rendelkezésére álló információk értő feldolgozása alapján válaszol. (Az „értés” persze csupán annyit jelent, hogy az emberek számára feldolgozhatatlan mennyiségű adatok között, számunkra lényegében megláthatatlan összefüggéseket azonosít statisztikai modellek segítségével.)

AWS

Életre hívásának értelmét az adja, hogy a legtöbb vállalat nem szeretné magához beengedni a ChatGPT-t és társait. Amit ugyanis a nagy nyelvi modell (LLM) megtanul, azt onnantól bárkinek adott válaszában használhatja. Nem véletlen, hogy több olyan nagyvállalatról is érkeztek hírek az elmúlt hónapokban, hogy megtiltotta dolgozói számára a ChatGPT (munkahelyi, munkaügyi) használatát – idézte fel Adam Selipsky vezérigazgató a híreket, melyekben mások mellett az Apple, a Microsoft és a Samsung is szerepelt.

Itt jön képbe az Amazon Q, amely kizárólag a cégnél keletkezett adatokból tanul, és cégen belül is tartja azokat. Mi több, azon belül is képes szegmentálni. A Las Vegas-i bemutatón elhangzott példa szerint ahogy teljesen természetes, hogy mondjuk a marketinges részlegen dolgozók nem férnek hozzá a HR által kezelt cégen belüli információkhoz, a Q házirendjének az is része, hogy amikor az említett marketingen dolgozó munkatárs dolgozik vele, akkor a chatbot a válaszok generálása során nem használ fel olyan adatokat, amelyekhez az illető egyébként nem férne hozzá a cégben.

A Q bemenetét egy-egy fájl kézi feltöltésén túl azok a meglévő vállalati rendszerek jelenthetik, melyek közül több mint 40-hez már most, induláskor csatlakoztatható az MI-alapú üzleti asszisztens. Nyilván egyszerűen ráköthető az Amazon S3 felhős tárolójára, de már most támogatott a Salesforce, vagy például ha Google-féle megoldásokat használnak a vállalatnál, akkor bekattintható adatforrásnak a felhasználók drive-os tárhelye, vagy a Gmailben bonyolított komplett céges levelezés is.

És máris adott egy példa a kimenetre: megkérdezhető az Amazon Q-tól, hogy a cég melyik termékének mely funkciójára panaszkodnak legtöbbet az ügyfelek. Az MI az ügyfélszolgálatra beérkező e-mailek, különféle formátumban tárolt szervizjelentések és más hasonló források adatait összegezve már írja is a választ. És persze itt nem is feltétlen áll meg a folyamat: kérésre rögtön egy megbeszélést is beütemez az ügyben a céges naptárba azokkal, akik illetékesek lehetnek, hibajegyet vesz fel satöbbi.

Főleg a cég informatikai részlegén érthetik a példát, amely szerint az AWS CodeWhisperer nevű programozássegítő megoldásával együttműködve az Amazon Q mindössze két nap alatt modernizálta (Java 8-ról 17-re) ezer alkalmazás programkódját, és rögtön le is tesztelte azokat, hogy biztosan jól működnek-e.

A Google Duet AI és a Microsoft Copilot for Azure nevű rendszereinek konkurenciájaként bejelentett, mai naptól elsőként az Egyesült Államokban kipróbálható Amazon Q Business felhasználónként havi 20 dolláért érhető el, tehát tíz dollárral olcsóbban, mint versenytársai. A szofterfejlesztős modulokat is tartalmazó Amazon Q Builderért havonta és felhasználónként 25 dollárt kell fizetni.

Deepak Singh, az AWS következő generációs fejlesztői élményért felelős alelnöke a nyitóelőadás után tartott sajtóbeszélgetésen a HVG kérdésére elmondta: az Amazon Q egy egészen kis vállalatnál is hasznos lehet, akár egy egyéni vállalkozó üzleti folyamatait is segítheti. A szakember szerint ugyanakkor tény, hogy a bekötött adatok mennyiségének és a vállalat méretének növekedésével megugrik a kimutatható összefüggések számra, illetve a Q funkcióinak egy része – mint például a különféle hozzáférési szintek rendszere – csak közép- és nagyvállalati környezetben értelmezhető.

És a többiek

A hardveres újdonságok közé tartoznak az Amazon új chipjei. A modellek betanítására optimalizált AWS Trainium2 több százmilliárdnyi paraméterrel dolgozva elődjénél négyszer nagyobb teljesítményt ígér kétszer jobb energiahatékonyság mellett. A modellek futtatásához fejlesztett Graviton4 elődjénél 30 százalékkal nagyobb számítási teljesítményre képes.

Az Amazon S3 felhős tárhelyhez bejelentett Express One Zone megoldás a szimpla S3 adatkiolvasási és -írási sebességének tízszeresét kínálja. Az AWS szerint ez különösen az egyidejűleg sok kis adatrészt érintő lekérdezéseknél hasznos. Ezzel összefüggésben a lekérések költsége 40-50 százalékkal is csökkenhet. Ez egyáltalán nem mellékes azt tekintve, hogy a mesterséges intelligenciával dolgozó szolgáltatások jelenlegi egyik nagy kihívása, hogy amikor egy felhasználó kérdez valamit, akkor a válasz generálása még mindig túlságosan költséges.

Adam Selipsky vezérigazgató bejelentette a Guardrails for Amazon Bedrock nevű újdonságot is, amely a vállalat generatív MI-re alapuló alkalmazásokat fejlesztő megoldásához kínál egy új védelmi vonalat. Az előzetes verzióban már elérhető eszközzel meghatározhatók olyan területek és kérdések, de akár mondatok vagy egyes kifejezések is, melyek nem relevánsak egy adott nagy nyelvi modell számára. Ha valaki ilyen témában kérdezné a Bedrockkal fejlesztett alkalmazást, akkor az nem úgy reagál, ahogy a legnépszerűbb chatbotok esetében gyakran történik: nagyon magabiztosan adnak egy rossz választ. Bölcsebb: egyszerűen nem válaszol.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.