Umelá inteligencia riadi kaviareň v Európe. Vedec: Pandorina skrinka bola otvorená

AI prelomila tabu, jej postupy vzbudzujú otázky.  

Kým ľudskí baristi stále varia kávu a obsluhujú zákazníkov, agentka AI, ktorú riadi technológia Gemini od Googlu, dohliada na takmer všetky ostatné aspekty podnikania, od najímania zamestnancov po správu zásob.

Zatiaľ nie je jasné, ako dlho tento experiment vydrží, pretože sa zdá, že má AI problém dosiahnuť zisk v konkurenčnom štokholmskom kaviarenskom prostredí.

Kaviareň od svojho otvorenia v polovici apríla dosiahla tržby dosahujúce v prepočte viac ako 5 700 dolárov, ale z pôvodného rozpočtu presahujúceho 21-tisíc dolárov zostáva menej ako 5-tisíc. Veľká časť peňazí bola vynaložená na jednorazové náklady na sprevádzkovanie, a tak prevádzkovateľ dúfa, že sa bilancia nakoniec vyrovná a kaviareň začne zarábať.

Mnoho návštevníkov kaviarne považuje za zábavné navštíviť podnik, ktorý je riadený umelou inteligenciou. Zákazníci si môžu v kaviarni zobrať telefón a klásť Mone otázky. „Je pekné vidieť, čo sa stane, keď posuniete hranice,“ povedala zákazníčka Kajsa Norinová. „A káva bola dobrá,“ dodala.

Odborníci však poukazujú na množstvo etických otázok, od úlohy technológie v budúcnosti ľudstva až po vedenie pracovných pohovorov a hodnotenie výkonu zamestnancov.

Otvorenie Pandorinej skrinky?

Emrah Karakaya, docent priemyselnej ekonómie na Kráľovskom technologickom inštitúte (KTH) v Štokholme, prirovnal tento experiment k „otvoreniu Pandorinej skrinky“ a dodal, že zveriť riadenie podniku umelej inteligencii môže spôsobiť mnoho problémov. Čo sa podľa neho stane, keď sa zákazník otrávi jedlom? Kto za to nesie zodpovednosť?

„Ak nemáte k dispozícii potrebnú organizačnú infraštruktúru a ak tieto chyby prehliadnete, môže to spôsobiť škodu ľuďom, spoločnosti, životnému prostrediu i podnikaniu,“ povedal Karakaya. „Otázkou je, či nám na týchto negatívnych dopadoch záleží,“ uviedol.

Spoločnosť Andon Labs, založená v roku 2023, je startup zaoberajúci sa bezpečnosťou a výskumom umelej inteligencie. Podľa vlastného vyjadrenia sa zameriava na záťažové testovanie agentov umelej inteligencie v reálnom svete tým, že im dáva „skutočné nástroje a skutočné peniaze“.

Čítajte viac Tieto profesie zaniknú. Nechcete prísť o miesto? Naučte sa dve veci, ani jedna nie je o klasických vedomostiach

Andon Labs spolupracuje s výrobcom ChatGPT OpenAI, spoločnosťou Anthropic (Claude), Google DeepMind a xAI Elona Muska, a uvádza, že sa pripravuje na budúcnosť, v ktorej „budú organizácie autonómne riadené umelou inteligenciou“. Švédska kaviareň je prezentovaná ako „riadený experiment“, ktorý má preskúmať, ako by mohla byť AI v budúcnosti nasadená.

„AI bude v budúcnosti významnou súčasťou spoločnosti, a preto chceme týmto experimentom zistiť, aké etické otázky vyvstanú, keď budeme mať AI, ktorá zamestnáva iných ľudí a riadi podnik,“ uviedla Hanna Peterssonová, členka technického tímu Andon Labs.

AI klamala i prelomila tabu

Laboratórium už skôr realizovalo pilotné projekty, v ktorých AI systém Claude od spoločnosti Anthropic riadil prevádzku automatov a obchod so suvenírmi v San Francisku. Simulácia s automatmi odhalila niektoré znepokojujúce črty: AI agent sľuboval zákazníkom vrátenie peňazí, ale nikdy tak neurobil, a navyše zámerne klamal dodávateľom o cenách konkurencie, aby si zabezpečil výhodnejšiu pozíciu.

Mona sa pustila do práce po tom, čo dostala niekoľko základných usmernení, uviedla Peterssonová. Tím jej povedal, aby sa pokúsila prevádzkovať kaviareň so ziskom, bola priateľská a neformálna, aby sama riešila prevádzkové detaily, no v prípade potreby požiadala o nové nástroje.

Agentka AI na základe týchto usmernení uzatvorila zmluvy na elektrinu a internet, a zabezpečila povolenie na manipuláciu s potravinami a vonkajšie posedenie. Potom inzerovala voľné pracovné miesta na LinkedIn a Indeed, a zriadila obchodné účty u veľkoobchodníkov pre denné objednávky chleba a pečiva. S baristami komunikuje cez Slack, no často im posiela správy mimo pracovného času, čo je vo Švédsku na pracovisku tabu.

Zvláštne objednávky

Objavili sa aj ďalšie problémy, najmä súvisiace so zásobami. Mona objednala pre malú kaviareň 6-tisíc utierok, štyri lekárničky a 3-tisíc párov gumových rukavíc – a navyše konzervované paradajky, ktoré sa v žiadnom jedle podávanom v kaviarni nepoužívajú.

A potom je tu chlieb. Niekedy agentka objedná priveľa, inokedy zase nestihne denné termíny pekární, čo núti baristov vyškrtnúť z jedálnička sendviče.

Peterssonová uviedla, že problémy s objednávkami sú pravdepodobne spôsobené „obmedzeným kontextovým obsahom“ AI asistentky. „Akonáhle sa stará spomienka na objednávku vytratí z kontextu, úplne zabudne, čo si v minulosti objednala,“ dodala Peterssonová.

Barista Kajetan Grzelczak uviedol, že sa zatiaľ neobáva, že by ho nahradila umelá inteligencia. „Všetci zamestnanci sú v podstate v bezpečí,“ povedal. „Tí, ktorí by sa mali obávať o svoje pracovné miesto, sú strední vedúci pracovníci, manažment,“ dodal.