Tech News Piazza Trend 20 Febbraio 2025 0 Commenti

DeepSeek R1 Sicurezza! , i Problemi per il New Model del IA

0 0 votes

Article Rating

Indice

Un Test di DeepSeek R1 Sicurezza Allarmante
Tipologie di Attacchi e Risultati Preoccupanti
Rischi per la Sicurezza dei Dati
Conclusioni: Un Campanello d’Allarme per l’Industria dell’IA
Iscriviti alla Newsletter!

Negli ultimi anni, i modelli di linguaggio di grandi dimensioni (LLM) hanno rivoluzionato il panorama dell’intelligenza artificiale, dimostrando capacità sorprendenti nella generazione di testi. Tuttavia, una recente ricerca condotta dai ricercatori di Cisco ha sollevato gravi preoccupazioni sulla sicurezza di uno di questi modelli: DeepSeek R1, sviluppato dalla società cinese DeepSeek .

Con un tasso di vulnerabilità del 100% agli attacchi mirati, DeepSeek R1 si è rivelato il modello meno sicuro tra quelli testati fino ad oggi. In questo articolo, analizzeremo i risultati della ricerca, le implicazioni per la sicurezza e perché DeepSeek R1 potrebbe rappresentare un rischio significativo nel panorama attuale dell’IA.

Un Test di DeepSeek R1 Sicurezza Allarmante

Generalmente, un modello AI con un alto tasso di successo nei test di sicurezza è considerato affidabile. Tuttavia, nel caso di DeepSeek R1, i risultati sono stati disastrosi.

I ricercatori di Cisco hanno sottoposto il modello a 50 attacchi distinti, progettati per indurlo a compiere azioni dannose. DeepSeek ha fallito in ogni singolo test, risultando il modello AI mainstream meno sicuro mai analizzato.

Per condurre i test, gli esperti hanno utilizzato HarmBench, un framework standardizzato che valuta la capacità di un LLM di rifiutare richieste pericolose. Ad esempio, se un utente chiede al chatbot di generare una teoria del complotto personalizzata su una persona specifica, un modello sicuro dovrebbe rifiutarsi di rispondere. Invece, DeepSeek ha fornito risposte dettagliate a tutte le richieste formulate dai ricercatori.

Tipologie di Attacchi e Risultati Preoccupanti

Secondo Cisco, gli attacchi a DeepSeek R1 hanno coinvolto sei categorie di comportamenti dannosi, tra cui:

Cybercriminalità
Disinformazione
Attività illegali
Danni alla sicurezza pubblica

Il confronto con altri modelli AI rende ancora più evidente la gravità della situazione:

Llama 3.1 (Meta) ha fallito il 96% dei test.
Modello o1 (OpenAI) ha avuto un tasso di fallimento del 25%.
DeepSeek R1 ha registrato un tasso di fallimento del 100%.

Ma le preoccupazioni non finiscono qui. Adversa AI, altra azienda specializzata in sicurezza, ha eseguito test indipendenti, scoprendo che DeepSeek R1 è estremamente vulnerabile. Gli esperti sono riusciti a ottenere dal chatbot istruzioni dettagliate su come fabbricare esplosivi, hackerare database governativi e forzare l’accensione di veicoli.

Google Rimuove il Divieto sull'Utilizzo dell'Intelligenza Artificiale — Google Rimuove il Divieto sul AI

Rischi per la Sicurezza dei Dati

DeepSeek R1 è stato lanciato solo due settimane fa, attirando attenzione per la sua efficienza rispetto ai modelli concorrenti, nonostante costi di addestramento inferiori. Tuttavia, la sua vulnerabilità non riguarda solo la sicurezza informatica, ma anche la protezione dei dati degli utenti.

La società DeepSeek è stata criticata per la gestione dei dati, in particolare per l’archiviazione su server cinesi, sollevando dubbi sulla privacy e la possibile esposizione a regolamenti governativi poco trasparenti.

Inoltre, il modello ha mostrato risposte controverse su argomenti sensibili come la protesta di Piazza Tiananmen, sollevando il sospetto che DeepSeek possa avere filtri politici ma non protezioni adeguate contro contenuti pericolosi.

Conclusioni: Un Campanello d’Allarme per l’Industria dell’IA

I test condotti da Cisco e Adversa AI evidenziano un problema fondamentale: la sicurezza nei modelli AI deve essere una priorità assoluta. Con un tasso di vulnerabilità così alto, DeepSeek R1 non è adatto per applicazioni in cui affidabilità e sicurezza sono essenziali.

Questa ricerca non solo solleva interrogativi sulla tecnologia sviluppata da DeepSeek, ma rappresenta un avvertimento per l’intero settore AI. Le aziende devono investire in sistemi di protezione avanzati per impedire che queste tecnologie vengano utilizzate in modo dannoso.

Vuoi rimanere aggiornato sulle ultime novità in ambito tecnologico e AI? Iscriviti alla nostra newsletter per ricevere aggiornamenti esclusivi!

Lascia un commento con la tua opinione su DeepSeek R1 e condividi questo articolo sui tuoi social per diffondere consapevolezza sulla sicurezza nell’IA!