In questa live di coding su Twitch, abbiamo installato e configurato passo passo un’immagine Docker custom di Ollama, preparata da Embarcadero, per utilizzare questo LLM all’interno della macchina in locale, facendola girare in un container e invocandola dall’IDE di Delphi, senza interfacciarsi con alcun servizio online in cloud.

Grazie a Smart CodeInsight, Delphi può sfruttare la potenza dell’intelligenza artificiale per aiutare nel workflow di sviluppo. L’architettura è modulare e supporta vari motori di AI, quelli online e cloud-based forniti da OpenAI, Gemini e Claude, ma è anche possibile scaricare e configurare un modello AI per Ollama e farlo girare in locale con Docker, avendo così pieno controllo sui dati trasmessi (zero!) e sui costi (zero!), senza dipendere da connessioni internet o servizi in cloud di terze parti. Ollama è inoltre open-source.