Severná Kórea zneužíva umelú inteligenciu na kyberútoky. Hackeri vyvinuli vlastné modely aj nástroje RAG

Severnokórejská hackerská skupina Kimsuky si vyvinula vlastné jazykové modely a AI nástroje. Tie jej umožňujú automatizovať kyberútoky a analyzovať ukradnuté dáta.  

Hackerská skupina Kimsuky napojená na Severnú Kóreu vytvorila jazykové modely a vyvinula softvér, ktoré môžu pomôcť automatizovať kybernetické útoky, analyzovať ukradnuté dáta a vytvárať presvedčivejšie phishingové kampane. Uviedla to v pondelok juhokórejská technologická firma Genians, ktorá sa špecializuje na kybernetickú bezpečnosť. Informovala o tom agentúra Reuters.

• Skupina Kimsuky vyvinula vlastné jazykové modely na podporu sofistikovaných kybernetických útokov.
• Hackeri dokážu lokálne spúšťať modely AI ako Ollama, GPT4All a Msty.
• Technológia retrieval augmented generation umožňuje spracovať citlivé dokumenty bez externých AI služieb.

Firma Genians tvrdí, že má dôkazy o tom, že skupina Kimsuky si vytvorila nástroje na lokálne spúšťanie a správu modelov umelej inteligencie (AI) ako sú Ollama, GPT4All a Msty, a tiež používa technológiu známu pod názvom retrieval-augmented generation (RAG), ktorá kombinuje vyhľadávanie informácií z externých zdrojov s generovaním textu pomocou veľkých jazykových modelov (LLM). Tieto nástroje umožňujú hackerom umožniť spracovanie dokumentov bez odosielania citlivých údajov externým AI službám.

Použitie AI nástrojov

Spoločnosť Genians okrem toho v serverovej infraštruktúre prepojenej so skupinou Kimsuky našla vývojové platformy pre AI agentov, softvér na prevod reči na text a editor kódov Cursor s integrovanou umelou inteligenciou, ktorý je navrhnutý tak, aby programátorom pomáhal písať, upravovať a opravovať softvér oveľa rýchlejšie.

Podľa firmy Genians tieto zistenia naznačujú, že skupina Kimsuky sa posúva za hranicu používania generatívnej AI na tvorbu podvodných e-mailov (phishingu) a buduje si kapacity na integráciu existujúcich modelov AI do vývoja škodlivého softvéru, analýzy dát a automatizácie útokov.

Falošné finančné dokumenty

Genians tiež uviedla, že objavila dokumenty s tematikou financií a kryptomien, ktoré boli pravdepodobne vytvorené pomocou umelej inteligencie. Tieto materiály boli navrhnuté tak, aby verne imitovali legitímne investičné správy a iné firemné dokumenty.

Tieto zistenia nebolo možné nezávisle overiť, poznamenala agentúra Reuters.

Severná Kórea podľa amerických a juhokórejských úradov, ako aj odborníkov na kybernetickú bezpečnosť už roky využíva kybernetické jednotky napojené na štát na špionáž, finančné krádeže a generovanie príjmov. Americké ministerstvo financií v roku 2023 uvalilo na skupinu Kimsuky sankcie a označilo ju za kyberšpionážnu jednotku kontrolovanú severokórejskou vládou.