AI integreren in bedrijfssoftware: zo pak je het aan

Wat betekent AI integreren in bedrijfssoftware eigenlijk?

AI in je bedrijfssoftware is zelden een los product dat je ernaast zet. Het is een functie binnen software die je al hebt: een offerte die zichzelf voorstelt, een zoekfunctie die vragen in gewone taal begrijpt, een ticket dat automatisch wordt samengevat en gerouteerd. De AI zit onder de motorkap, de gebruiker ziet gewoon een knop of een tekstveld.

In de praktijk komt LLM integratie in software neer op drie herkenbare paden. Je kunt een LLM-API aanroepen vanuit je bestaande code, je kunt RAG bouwen zodat het model antwoordt op basis van jouw data, of je kunt een AI chatbot op je eigen kennisbank zetten. Ze sluiten elkaar niet uit; een serieuze oplossing combineert ze vaak.

Pad 1: een LLM-API aan je bestaande software koppelen

Het eenvoudigste startpunt is een LLM-API aanroepen vanuit je applicatie. Je stuurt tekst naar een model zoals dat van Anthropic of OpenAI, krijgt een antwoord terug en gebruikt dat in je flow. Denk aan het samenvatten van lange e-mails, het opstellen van een conceptantwoord, of het classificeren van binnenkomende aanvragen.

Dit pad is snel op te zetten en goed te testen. Je bepaalt zelf welke tekst je meestuurt en wat er met het antwoord gebeurt. Het model kent alleen wat je in de prompt zet, dus voor algemene taaltaken werkt dit prima. Zodra je vragen krijgt die alleen te beantwoorden zijn met jouw specifieke gegevens, loop je tegen de grenzen aan en heb je RAG nodig.

• Geschikt voor: samenvatten, herschrijven, classificeren, concepten genereren.
• Snel te bouwen en goed af te bakenen.
• Beperking: het model kent alleen wat in de prompt staat.

Pad 2: RAG op je eigen data (in gewone taal)

RAG staat voor retrieval-augmented generation. In gewoon Nederlands: voordat het model antwoordt, zoekt je software eerst de relevante stukken op in jouw documenten en geeft die als context mee. Het model verzint dus niet zomaar iets, maar antwoordt op basis van wat het net heeft teruggevonden in jouw handleidingen, contracten of database.

Zo koppel je in de praktijk ChatGPT of een ander LLM aan eigen data zonder het model opnieuw te trainen. Je zet je documenten om naar doorzoekbare stukken, bewaart die, en haalt bij elke vraag de paar meest relevante fragmenten op. Het grootste deel van het werk zit niet in het model, maar in die ophaallaag: je data schoon krijgen, goed opdelen en betrouwbaar terugkoppelen. Een RAG toepassing bouwen is daarom vooral een data- en integratieklus.

Wil je dit combineren met acties in je systemen, dan raakt het aan een AI-agent laten bouwen. En als je twijfelt of je hiervoor bestaande software aanpast of iets nieuws maakt, lees dan eerst over maatwerk software laten maken.

Pad 3: een AI chatbot op je eigen kennisbank

Een AI chatbot op eigen kennisbank is in feite RAG met een gespreksinterface eromheen. De gebruiker stelt een vraag, de bot zoekt in je documentatie, FAQ's en productpagina's, en geeft een antwoord met bronvermelding. Dit werkt goed voor klantenservice, interne helpdesk en onboarding van nieuwe medewerkers.

De valkuil is dat mensen denken dat ze een chatbot bouwen, terwijl het echte werk in de kennisbank en de escalatieregels zit. Bepaal vooraf welke vragen de bot zelfstandig afhandelt en wanneer een mens overneemt. Een bot die eerlijk zegt dat hij het niet weet, is bruikbaarder dan een bot die vol overtuiging iets verzint.

Wil je zoiets breder inzetten om werk uit handen te nemen, kijk dan ook naar bedrijfsprocessen verbeteren met AI.

Waar gaat je data heen? Eerlijk over de AVG

Zodra je tekst naar een extern model stuurt, verlaat die data je eigen systeem. Bij de grote Amerikaanse aanbieders reist die data doorgaans naar servers buiten de EU. Verwerk je daarbij persoonsgegevens, dan geldt de AVG onverkort: je hebt een verwerkersovereenkomst nodig, je moet weten waar de data staat en hoe lang ze bewaard blijft.

Dit is oplosbaar, maar het vraagt keuzes. Sommige aanbieders bieden EU-datalocaties en de toezegging dat jouw invoer niet voor training wordt gebruikt. Voor gevoelige gegevens kun je kiezen voor een model dat binnen de EU draait, of vooraf persoonsgegevens uit de tekst filteren. De Autoriteit Persoonsgegevens en de uitleg op gdpr.eu zijn goede vertrekpunten. Regel dit aan het begin, niet als het al draait.

• Weet waar je data naartoe gaat en of ze voor training wordt gebruikt.
• Regel een verwerkersovereenkomst bij persoonsgegevens.
• Overweeg EU-hosting of het filteren van persoonsgegevens vooraf.

Wanneer je AI niet aan je bedrijfssoftware moet toevoegen

Niet elk probleem is een AI-probleem. Als een simpele regel, een filter of een goede zoekfunctie de vraag oplost, voegt een taalmodel alleen kosten en onzekerheid toe. AI is sterk bij taal, nuance en variatie, en zwak bij taken die exact en herhaalbaar moeten zijn, zoals rekenen of vaste bedrijfsregels.

Laat het ook liggen als je data een rommeltje is. RAG op onvindbare, verouderde of tegenstrijdige documenten geeft slechte antwoorden, ongeacht hoe goed het model is. En als niemand de output controleert bij hoge inzet, bijvoorbeeld bij juridische of financiële beslissingen, is een gladde maar foute samenvatting gevaarlijker dan geen samenvatting. Begin dan liever klein, met een MVP laten bouwen om te toetsen of het echt werkt.