Architettura AI

Panoramica dell’architettura

Il cuore tecnologico di OpenCity AI si basa su un’architettura di tipo RAG (Retrieval-Augmented Generation). A differenza dei sistemi basati su sola intelligenza artificiale generica, questo approccio garantisce che ogni risposta sia ancorata esclusivamente a dati certi e verificati.

La soluzione è open source e agnostica rispetto al modello di linguaggio utilizzato (nell’attuale configurazione, utilizziamo Gemini). Adottiamo il protocollo MCP per garantire interoperabilità con altre soluzioni dell’ente o di terze parti.

Come funziona

Quando l’utente interagisce con il chatbot, la richiesta viene inviata al componente open source OpenCity AI che la rielabora e la arricchisce, analizzando i contenuti specifici del sito web per poi inviarla ad un LLM via API: l’architettura software è quindi una RAG (Retrieval-Augmented Generation), ovvero l’assistente per fornire una risposta esegue una ricerca (Retrieval) in un motore di conoscenza specifico e poi fornisce a un LLM la domanda e le informazioni per rispondere, l’LLM si occupa soltanto di dare una forma di dialogo a queste informazioni (Generation).

1. L’utente prende visione dell’informativa privacy
2. La richiesta dell’utente viene inviata al sistema OpenCity AI che la rielabora internamente
3. OpenCity AI anonimizza eventuali dati personali (nomi, email, numeri di telefono) prima di passarli al LLM
4. La richiesta arricchita viene mandata ad un LLM via API
5. La risposta del LLM viene poi filtrata e arricchita dal sistema OpenCity AI
6. La risposta viene mostrata all’utente con le relative fonti

Base di conoscenza e indicizzazione

La prima applicazione concreta della nostra architettura AI è OpenCity AI Chatbot, uno strumento per orientare i cittadini e fornire informazioni in modo veloce e preciso. Il chatbot viene addestrato utilizzando la base di conoscenza del sito web dell’ente, ed eventualmente di altri siti tematici dell’ente. In questo modo si ottiene la garanzia di partire da informazioni accurate e garantite dall’ente, che può migliorare la qualità delle risposte semplicemente arricchendo e aggiornando le informazioni del suo sito. Dopo aver indicizzato queste fonti, il chatbot si aggiorna quotidianamente per indicizzare i nuovi contenuti prodotti.

Il crawler di OpenCity AI, responsabile della scansione periodica dei siti web, opera in conformità con gli standard e le regole di indicizzazione adottate dai motori di ricerca tradizionali (es. Google): il crawler rispetta le istruzioni inserite nel robots.txt e quindi, a titolo di esempio, i dati esposti nell’Albo Pretorio vengono rimossi dal motore di ricerca semantico al termine del periodo di pubblicità previsto.

Privacy e sicurezza dei dati

La protezione dei dati personali è un elemento centrale del sistema, qualificato ACN. Eventuali dati personali inseriti da un utente nella chat sono trattati per la sola durata della sessione.

Anonimizzazione: prima che la richiesta venga inviata al LLM esterno, il componente OpenCity AI agisce come un filtro di sicurezza e rimuove attivamente eventuali dati personali (nomi, email, numeri di telefono, ecc.) inseriti dall’utente nella chat. Questo flusso operativo è progettato per evitare la possibilità che un sistema esterno (LLM) effettui trattamenti su eventuali dati personali inseriti dall’utente all’interno della chat.

Conformità normativa

Tecnologie di intelligenza artificiale progettate nel rispetto degli standard per la trasformazione del settore pubblico:

1. Sicurezza, garantita dalla certificazione ISO 27001 e dalla qualificazione ACN di OpenCity Italia
2. Privacy, rispetto rigoroso del GDPR e anonimizzazione di eventuali dati personali inviati a LLM
3. Open source. La scelta da preferire secondo le regole tecniche per l’acquisto di software nella PA
4. Interoperabilità. Adozione di standard aperti (MCP)
5. User experience. Linee guida design e accessibilità con adozione UI kit Designers Italia
6. Regole tecniche AI nella pubblica amministrazione. Conformità a Legge 132/2025 e AI ACT (Regolamento europeo sulla AI)

Principi tecnologici per l’AI

OpenCity segue le indicazioni del piano triennale per l’informatica nella pubblica amministrazione:

• Miglioramento dei servizi e riduzione dei costi: l’IA deve essere usata per rendere i servizi pubblici più efficienti, efficaci e personalizzati per i cittadini, ottimizzando le risorse
• Analisi del rischio: prima di adottare una soluzione IA, le PA devono condurre un’attenta valutazione dei rischi (tecnici, etici, legali e di sicurezza)
• Trasparenza e responsabilità: i processi decisionali basati su algoritmi devono essere comprensibili, tracciabili e deve essere sempre chiaro chi è il responsabile della decisione finale
• Inclusività e accessibilità: le soluzioni IA non devono creare nuove forme di discriminazione e devono essere accessibili a tutti i cittadini
• Privacy e sicurezza: protezione dei dati personali e sicurezza dei sistemi fin dalla fase di progettazione (privacy and security by design)
• Standardizzazione: uso di standard aperti per garantire l’interoperabilità tra le soluzioni
• Approccio antropocentrico: la decisione finale e il controllo devono rimanere sempre in capo all’essere umano