A DeepSeek csodálatos tündöklése és bukása

Egy hét alatt lett világsiker a kínai mesterséges intelligencia startup azonos nevű MI-szoftvere. Most meg csak nézünk, mint a moziban: az üstökösként feltűnt DeepSeek chatbot hullócsillagként zuhan lefelé.

Miért lelkesedtek annyira a DeepSeekért, és kezdte a fél világ szidni az addig olyan nagyra értékelt ChatGPT-t? Valószínűleg a legnagyobb különbség közöttük – és minden bizonnyal ez okozhatta, hogy az NVIDIA részvényei zuhanni kezdtek, s dollármilliói mentek füstbe – az, hogy a DeepSeek sokkal hatékonyabban (olcsóbban) hoz létre versenyképes modelleket, mint nagyobb társai.

Az olcsóság konkrétan azt jelenti, hogy a kínai cég legújabb modelljei régebbi NVIDIA hardver használatával (amit a kínai vállalatok megvásárolhatnak, ellentétben a cég legmodernebb csipjeivel)

A hírhez persze rögtön ideológia is készült: az amerikai cégek elkényelmesedtek, drágán és lassan tudnak csak dolgozni. Bezzeg a DeepSeek szoftveresen javítja modelljeit, s nem dob ki egy halom pénzt méregdrága hardverekre.

Néhány napja megfordult a kórus

A csodált megoldás, ami sokkolta a tőzsdét, s januárban az Apple App Store tetejére került, immáron durva biztonsági aggodalmak, kibertámadások és növekvő nemzetközi szkepticizmus viharával néz szembe. Biztonsági cégek szerint a DeepSeek aktívan gyűjti személyes és műszaki adatok tömegét, beleértve e-mail-címet, telefonszámot, születési időt: számos ország már korlátozásokat alkalmaz, vagy egyenesen eltávolította az alkalmazásboltokból.

Kiderítették, hogy a Deep Seek 100 százalékos „sikertelenségi arányt” mutat az ismert törések blokkolásában – a Cisco és a UPenn tesztelte, korlátozásai rendkívül könnyedén megkerülhetőek.

A Feroot Security kanadai biztonsági cég azt állítja, hogy adatokat küldhet a kínai kormánynak (ez az aggály kezdettől felvetődik), s a szoftver a CMPassport.comhoz (China Mobile Registry) kapcsolódik. A NowSecure mobilalkalmazás-biztonsági cég elemzése szerint

A kanadaiak által talált sebezhetőségek a mobilalkalmazásra vonatkoznak, amelyen keresztül sok felhasználó hozzáfér a DeepSeek mesterséges intelligencia modelljéhez, s nem a modellekre, amelyek helyileg is futtathatók a felhasználó eszközén vagy egy külön tárhely platformon keresztül. A titkosítás hiánya kiszolgáltatottá teheti a felhasználókat a köztes támadásokra, mert aki felügyeli azt a hálózatot, amelyen az eszköz kommunikál, megtekintheti vagy módosíthatja a közte és a DeepSeek szerverei közötti kommunikációt.

Hétfőn New York kormányzója bejelentette, az állami alkalmazottak nem használhatják a DeepSeek modelljeit. Az amerikai Kongresszus jelenleg olyan törvénytervezetet fontolgat, amely szövetségi szinten vezetne be hasonló tilalmat. Ausztrália, India, Olaszország, Tajvan megtiltotta a program használatát a hivatalos eszközökön, ahogy a NASA, Dél-Korea Ipari Minisztériuma, az amerikai Kongresszus, a haditengerészet és a Pentagon is.

Miért is akkora baj ez?

A történet nem csupán egy alkalmazás biztonsági problémáiról szól, hanem a technológiai fejlesztések középpontjában álló, de az emberek többsége által követhetetlenül bonyolultnak tartott mesterséges intelligencia technológiáról is. Ha szinte egyik napról a másikra véleményt váltanak a szakértők, mit gondoljon egy felhasználó? Két hét múlva új adatok alapján majd ismét az égbe dicsérik?

Mindez megkérdőjelezi a mesterséges intelligencia biztonságát és a nemzetközi adatvédelem hatékonyságát. Pár napja, február 7-én történt (a nyomozás még tart), hogy egy hacker 20 millió hitelesítő adatot lopott el az éppen újra felmagasztosult, drága, de állítólag annyira biztonságos OpenAI-tól, a ChatGPT üzemeltetőjétől. Talán nem csak a DeepSeekkel van baj?