Formez PA, in house alla Presidenza del Consiglio – Dipartimento della Funzione Pubblica, ha presentato Camilla, l’assistente digitale che utilizza l’intelligenza artificiale per semplificare le interazioni tra i cittadini e la pubblica amministrazione. Camilla è un prodotto del CSI che combina le informazioni delle pubbliche amministrazioni con le potenzialità dell’intelligenza artificiale generativa.

Camilla è disponibile sul sito del Formez per aiutare i cittadini interessati ai bandi sui concorsi pubblici a reperire informazioni utili. Nel 2023 gli iscritti ai bandi gestiti da Formez PA sono stati più di 400mila, un bacino di utenza potenzialmente molto elevato anche per Camilla.

La soluzione Camilla

Camilla è la componente conversazionale con IA generativa delle soluzioni di intelligenza artificiale che il CSI mette a disposizione degli enti consorziati. Combina componenti open source e sviluppi proprietari del CSI.

La soluzione è formata da:

Interfaccia

• una webapp per interagire via chat con l’assistente, sviluppata in ottica mobile-first, adattabile a tutti i dispositivi;
• una soluzione di interazione vocale, sia “voce-testo” sia “testo-voce”, per interagire con l’assistente anche parlando;
• un avatar metahuman, realizzato con modelli grafici avanzati, per un’interazione più semplice e naturale. L’avatar è un’interfaccia aggiuntiva, utilizzabile quando Camilla è attivata su totem fisici.

Contenuti

un database vettoriale in cui vengono raccolti i contenuti per poter essere consultati e selezionati con i motori di IA generativa, con la tecnica chiamata Retrieval Augmented Generation (RAG). Questi sistemi sono in grado di identificare il significato di una domanda e di selezionare i contenuti pertinenti anche in assenza di corrispondenze semantiche esatte, grazie a tecniche di similarità vettoriale (contenuti con significati “simili” sono posizionati in vettori “prossimi” tra loro).

Motore di Camilla

• uno strumento di configurazione e monitoraggio in back office, in cui gli operatori del CSI o degli enti possono personalizzare le istruzioni dell’assistente, variare il dominio di conoscenza inserendo contenuti singoli e collezioni di contenuti (es. pagine di un sito web) e controllare le risposte date dall’assistente, in modo aggregato o puntuale, per supervisionarne la qualità;
• una catena di istruzioni e meccanismi di interazione tra le varie componenti. Questi elementi includono: i prompt funzionali che permettono all’assistente di risolvere i casi d’uso previsti ed evitare quelli non desiderati; il meccanismo di recupero dei contenuti all’interno del database vettoriale; la gestione del contesto della conversazione per permettere all’assistente di ricordare i messaggi già scambiati con chi la utilizza.

Motore di IA generativa che può essere orchestrato tra diversi modelli e provider in base alle esigenze della soluzione sviluppata.

Come funziona Camilla per Formez

Camilla è accessibile dal portale di Formez, dove si possono consultare i bandi gestiti dall'ente. L'interfaccia è una finestra di chat che consente di digitare direttamente le domande, attivare il microfono per parlare e visualizzare la trascrizione delle proprie richieste, oppure selezionare una delle domande suggerite dal sistema.

Quando riceve una domanda, il sistema di Camilla:

• identifica se la domanda è generale o fa riferimento a un bando specifico;
• ricerca i contenuti più pertinenti per similarità vettoriale alla domanda e al contesto precedente della conversazione;
• fornisce le informazioni rilevanti e le istruzioni al motore di IA generativa;
• restituisce la risposta, scritta o parlata.

Nel caso in cui le informazioni fornite da Camilla non siano risolutive, sarà possibile aprire un ticket. L’obiettivo è comunque quello di ridurre progressivamente queste casistiche.

Le componenti di Camilla per Formez sono:

Interfaccia
ha una componente di chat, che si adatta a tutti i dispositivi, in ottica mobile-first. Le domande possono essere digitate o dettate. La risposta viene generata dal sistema e restituita in modalità streaming, scrivendo progressivamente le parti di risposta già pronte, senza attendere il risultato finale, per ridurre i tempi di attesa. È possibile attivare la riproduzione vocale del testo generato e di fornire feedback sulla qualità della risposta (positivo o negativo). Nella fascia destra dello schermo, solo nei casi in cui la risoluzione lo permetta, sono presenti l’avatar di Camilla, il tema della chat e fino a tre suggerimenti di domande con cui iniziare o continuare la conversazione.

Contenuti
per elaborare le risposte sono stati utilizzati tre tipi di contenuti. Il principale è costituito dai bandi aperti in gestione a Formez, i cui testi e metadati sono stati inseriti nel sistema per dare informazioni specifiche, ad esempio quali sono i requisiti per candidarsi al bando. Sono inoltre presenti tutte le FAQ definite dall’ente che aiutano i potenziali candidati a orientarsi tra i temi più ricorrenti. Infine, sono presenti alcuni elementi normativi utili alle candidature. Tutti i contenuti sono stati inseriti nel sistema Camilla all’interno del database vettoriale ospitato dal CSI, nel quale i documenti sono divisi in parti (cosiddetti “chunk”) e trasformati in vettori multidimensionali.

Motore di Camilla
il sistema “core” di Camilla permette a tutti gli altri elementi di funzionare in accordo. In particolare, comprende le istruzioni del sistema (prompt) che, sia in fase di interpretazione sia in fase di generazione, guidano l’assistente nel recuperare le informazioni, mantenere uno stile definito di conversazione ed evitare di rispondere su argomenti non previsti o sui quali non sono disponibili informazioni. È presente, inoltre, lo strumento di back office per aggiungere informazioni e caricare nuovi bandi, monitorare il sistema e le risposte fornite ed eventualmente apportare correzioni.

Motore di IA generativa
L’intelligenza artificiale generativa è un campo tecnologico di frontiera, dove i modelli che garantiscono performance e qualità alte sono stati sviluppati e messi a disposizione soltanto dalle più avanzate aziende tecnologiche. Per Formez, i modelli di IA generativa di Camilla sono forniti da Microsoft attraverso la piattaforma cloud Azure. In particolare, attualmente viene utilizzato il modello gpt-4o di MS Azure OpenAI che assicura i migliori livelli di performance, accuratezza e sicurezza, per sviluppare un sistema intelligente aperto al pubblico.

Vale la pena sottolineare l’aspetto del monitoraggio. Come tutti i sistemi basati su IA generativa, Camilla può fornire informazioni non corrette o presentare comportamenti non previsti, dal momento che le risposte vengono create in tempo reale. Questo rischio non è azzerabile, ma Formez, CSI e Microsoft lavorano costantemente per minimizzarne gli impatti e la frequenza, attraverso diverse soluzioni e accorgimenti. È molto importante quindi sia il sistema di feedback da parte di chi usa Camilla, sia il presidio costante ex-post delle risposte fornite, così da individuare tempestivamente eventuali problemi e fare evolvere il sistema. Questo presidio è anche importante per garantire che Camilla sia in linea con le normative, anche se non ancora vigenti (es. EU AI Act).

I dati delle persone e la privacy

Il sistema di Camilla è utilizzabile su base volontaria, come aiuto per recuperare informazioni sui bandi, ma non si sostituisce alla consultazione del testo del bando. Chi utilizza Camilla lo fa fornendo il suo consenso informato al trattamento dei dati.
L’unico dato personale che viene richiesto, ed esclusivamente nel caso si desideri parlare a Camilla, è la voce. Tale dato viene trattato solo per la trascrizione dell’audio in domanda e non conservato.
In generale, le conversazioni (domanda, risposta, timestamp e id anonimo della conversazione) vengono tracciate in modo anonimo nei sistemi del CSI per un tempo limitato, per finalità di monitoraggio, e sono accessibili da un numero definito e controllato di operatori di Formez e CSI.
Per garantire il rispetto dei criteri di GDPR, i modelli di IA generativa forniti da Microsoft risiedono su server situati nell’Unione Europea e accessibili esclusivamente da operatori dell’Unione Europea. Inoltre, tutti i dati di input e output non sono resi disponibili ad altri enti né vengono utilizzati per migliorare i modelli di OpenAI o di Microsoft.