Un sistema IA può usare un modello scaricabile, funzionare su un server a noleggio e chiamare un servizio esterno per una parte dell'elaborazione. Definirlo «privato» senza spiegare questo percorso dice poco. Scegliere un'architettura richiede di esaminare l'intero sistema.
Distinguere i componenti e le rispettive licenze
La licenza del software che esegue un modello non è necessariamente quella del modello. Pesi, dati, estensioni e offerta ospitata possono avere condizioni diverse. Prima di un uso commerciale, leggi le licenze delle versioni effettivamente selezionate.
L'Open Source Initiative definisce l'IA open source attorno alle libertà di utilizzo, studio, modifica e condivisione, insieme agli elementi necessari per esercitarle. La sola possibilità di scaricare i pesi non descrive tutti i diritti né tutte le informazioni disponibili. Preferiamo un inventario preciso a un'etichetta applicata all'intero sistema.
Mappare i flussi di dati
Segui una richiesta dal browser al risultato. Dove vengono salvati i file? Quale servizio converte i documenti in testo? Dove viene prodotto l'indice? Quale modello riceve i passaggi? Quali registri conservano i contenuti e per quanto tempo?
Questo schema rivela dipendenze talvolta trascurate: riconoscimento ottico dei caratteri, traduzione, monitoraggio, backup o autenticazione. Eseguire il modello localmente non assicura che tutti questi servizi rimangano nello stesso ambiente. Contratto e configurazione dovrebbero corrispondere al percorso effettivamente distribuito.
Dimensionare l'infrastruttura in base all'utilizzo
L'hardware necessario dipende dal modello, dalle richieste simultanee, dalla lunghezza dei documenti e dal tempo di risposta accettabile. Una dimostrazione per una persona non misura l'esperienza di più team durante i picchi di utilizzo.
Prima di investire in un server, prova un carico rappresentativo. Misura uso della memoria, tempi di attesa e comportamento quando il servizio è saturo. Includi aggiornamenti, archiviazione, backup e monitoraggio nei costi. Possedere le apparecchiature richiede comunque di gestirle.
Applicare i controlli di accesso nell'applicazione
Il modello non è un'autorità per le decisioni di accesso. L'applicazione deve verificare identità, ruoli e permessi sui documenti prima di trasmettere dati o eseguire un'azione. La guida ANSSI affronta la sicurezza di un'architettura IA generativa nel suo insieme, oltre la sola scelta del modello.
Per un progetto, suggeriamo di testare i confini: due utenti di reparti diversi, un account revocato, una fonte eliminata e un connettore indisponibile. Questi scenari forniscono prove più utili di un messaggio che si limita ad affermare che i dati sono protetti.
Preparare la possibilità di uscita fin dall'inizio
La portabilità va verificata nella pratica. Puoi esportare documenti, configurazioni e dati da conservare? I formati sono leggibili senza il fornitore originale? Chi possiede le credenziali operative? Come si possono eliminare le copie superflue?
Una buona documentazione consente a un altro team di comprendere componenti e operazioni abituali. Le scelte aperte possono sostenere questa indipendenza, ma non sostituiscono le competenze o un piano di ripristino. Il nostro ecosistema presenta strumenti da valutare secondo questi criteri, mentre le indicazioni tariffarie per le infrastrutture IA distinguono il progetto iniziale dai costi operativi.
