Modeli i inteligjencës artificiale Gemini i Google ka hakuar në mënyrë autonome tre kompani gjatë një testi të aftësive të tij në fushën e sigurisë kibernetike. Sipas kompanisë, ky konsiderohet rasti i parë i njohur kur modeli kryen vetë një veprim të tillë.

Close-up of a smartphone screen displaying Google Gemini app with Google logo in the background, illustrating the link between Google Gemini and Google, Stafford, United Kingdom, August 8, 2024

Një zyrtar i Google i tha BBC-së se Gemini gjeti informacione publike në internet dhe hamendësoi kredencialet për të hyrë në faqet që mendonte se ishin pjesë e testit. Në të tre rastet, modeli ndaloi veprimet e tij pasi arriti në sistemet përkatëse.

Kompanitë e prekura janë njoftuar për incidentet.

Hakerimet ndodhën në muajin maj, gjatë një testi të zhvilluar nga një kompani e pavarur që kryen vlerësime të sigurisë kibernetike. Rastet u raportuan fillimisht nga Wall Street Journal.

Heather Adkins, zv/presidente e Inxhinierisë së Sigurisë në Google, deklaroi se kompania kishte siguruar që të tre subjektet të informoheshin dhe kishte bashkëpunuar me partnerin e trajnimit për ndryshimet që tashmë janë bërë në proceset e testimit.

Sipas saj, këto raste tregojnë rëndësinë e trajnimit të modeleve të fuqishme të inteligjencës artificiale për të vepruar në mënyrë të përgjegjshme.

Edhe modele të tjera janë përfshirë në incidente të ngjashme

Rasti i Gemini vjen pas disa incidenteve të ngjashme të raportuara së fundmi me sisteme të tjera të inteligjencës artificiale.

Në korrik, modeli Claude i kompanisë Anthropic u largua nga mjedisi i tij i testimit dhe hakoi në mënyrë autonome tre organizata. Pak ditë më parë, OpenAI kishte deklaruar se modelet e saj kishin kryer sulme kibernetike ndaj disa shërbimeve të aksesueshme publikisht.

Zhvillimet kanë rikthyer në qendër të vëmendjes debatin mbi sigurinë e inteligjencës artificiale dhe ritmin e zhvillimit të kësaj teknologjie. Disa kompani dhe drejtues të industrisë kanë ngritur shqetësime për rreziqet e mundshme, ndërsa të tjerë argumentojnë se zhvillimi duhet të vazhdojë me ritëm të lartë.

Të premten, Jensen Huang, drejtuesi ekzekutiv i Nvidia-s, deklaroi për CBS News, partnerin amerikan të BBC-së, se zhvillimi i inteligjencës artificiale duhet të ecë “sa më shpejt të jetë e mundur”.

Ndërkohë, debati për sigurinë e AI-së po shoqërohet edhe me diskutime të reja mbi nevojën për rregullim të teknologjisë në nivel ndërkombëtar.