Abbiamo parlato con diversi ricercatori di sicurezza informatica, che cercano vulnerabilità sconosciute e sviluppano strumenti per sfruttarle, su come i guardrail di OpenAI e Anthropic influenzano il loro lavoro.
I tutor socratici basati sul modello LLM (Large Language Model) guidano sempre più gli studenti attraverso domande a più turni, ma possono soffrire di crollo dell'impalcatura: sotto la pressione sostenuta degli studenti, un tutor abbandona gradualmente l'indagine guidata e rivela direttamente le soluzioni. Le difese precedenti limitano principalmente le risposte osservabili attraverso suggerimenti, ottimizzazione delle preferenze o filtraggi, lasciando in gran parte irrisolta la deriva della rappresentazione interna che precede il collasso a livello di traiettoria.
Le sonde di stati nascosti spesso recuperano etichette latenti in modelli di sequenze di informazioni imperfette, ma questo da solo non stabilisce che un modello mantenga una distribuzione di credenze a posteriori sugli stati nascosti. Questo articolo studia questa ambiguità in un modello autoregressivo di Limit Hold'em senza range addestrato solo su obiettivi di azione e valore, non sulla mano o sul range di un avversario.
L'inferenza con prompt lungo rimane costosa perché l'attenzione precompilata scala quadraticamente con la lunghezza della sequenza. Proponiamo Spectral-LSH, un metodo di compressione del prompt senza formazione che opera prima che il prompt entri nel modello linguistico. Spectral-LSH approssima le componenti dominanti di un operatore implicito del kernel di attenzione utilizzando un metodo del sottospazio di Krylov insieme a caratteristiche casuali, evitando la materializzazione esplicita del kernel di attenzione $O(N^2)$.
La calibrazione è il criterio principale per valutare la confidenza LLM, ma è insufficiente: ammette stimatori banalmente incoerenti, dipende dalla distribuzione della valutazione e non verifica la misura in cui la stima può essere interpretata come una funzione di probabilità sottostante coerente. Ciò di cui abbiamo effettivamente bisogno è che le stime di confidenza LLM soddisfino le condizioni richieste per credenze probabilistiche coerenti.
Safety as Polytope (SaP) apprende i vincoli lineari di semispazio nello spazio nascosto LLM ma richiede l'ottimizzazione per categoria del conteggio dei vincoli K. Mostriamo che l'estrazione delle funzionalità di sparse autoencoder (SAE) risolve questo problema: K=2 diventa ottimale per 12/14 categorie su Qwen3.5-9B, ottenendo una precisione del 96-99% per categoria sul nostro benchmark di classificazione BeaverTails, eliminando in gran parte la necessità di scansioni esaustive (K=4-25 con random inizializzazione).
Quando i Large Language Models (LLM) vengono utilizzati per l'estrazione di dati semantici da testo non strutturato, producendo fatti relazionali candidati dal linguaggio naturale, possono rimanere inaffidabili per compiti che richiedono ragionamenti combinatori complessi e coerenza globale. Questo articolo propone un quadro di estrazione dei dati guidato dalla logica che combina l'estrazione basata su LLM con la programmazione di set di risposte (ASP). LLM produce fatti candidati, mentre ASP esegue validazione, inferenza, verifica di coerenza e controllo.
Graph RAG mitiga le allucinazioni e le conoscenze obsolete nei LLM, in particolare per la risposta a domande multi-hop. Tuttavia, gli approcci esistenti rimangono altamente frammentati e incompatibili. L'eterogeneità strutturale dei formati grafici nei diversi framework e la mancanza di strumenti di visualizzazione granulari rendono estremamente difficile valutare e confrontare i comportamenti di recupero.
Gli agenti LLM che utilizzano strumenti eseguono sempre più azioni ad alto impatto, rendendo essenziale il monitoraggio della sicurezza in fase di esecuzione. Presentiamo NEXUS (Neural EXecution Utility and Safety), un monitor di sicurezza a piano strutturato che applica una politica di intervento formale per selezionare tra quattro azioni: consentire, bloccare, richiedere conferma o richiedere revisione. NEXUS combina regole di sicurezza deterministiche, ispezione a livello di argomento e un punteggio di rischio di regressione logistica calibrato per un'escalation graduale.
I modelli linguistici di grandi dimensioni (LLM) vengono sempre più utilizzati come servizi online sempre attivi, rendendo il servizio LLM efficiente una sfida per i sistemi critici. Raggiungere una bassa latenza e un throughput elevato in condizioni di domanda volatile richiede una conoscenza approfondita dei carichi di lavoro di servizio del mondo reale, ma gli studi esistenti spesso si basano su tracce proxy o caratterizzazioni a grana grossa che non riescono a catturare l'eterogeneità delle moderne piattaforme LLM multi-modello.
Digita almeno 2 caratteri
Questo sito utilizza cookie essenziali per il funzionamento e cookie di analisi per migliorare l'esperienza. Puoi accettare tutti, solo gli essenziali, o personalizzare. Cookie Policy | Privacy Policy