Ai-systemen op de grond

Grounding is het proces van het verbinden van de reacties van een AI-systeem op geverifieerde, echte gegevens in plaats van alleen te vertrouwen op de algemene trainingskennis van het model. Zonder grond te hebben, trekken generatieve AI-modellen uitsluitend uit patronen die tijdens de training zijn geleerd, die mogelijk verouderd, onvolledig of onjuist zijn voor een specifieke use-case. Grounding is zowel een kwaliteitscontrole als een beveiligingscontrole.

Waarom gronding belangrijk is voor beveiliging

Vanuit beveiligingsperspectief vormen niet-geaarde AI-systemen verschillende risico's:

• Fabricated outputs: Een niet-onderbouwd model genereert waarschijnlijk met schijnbare zekerheid feitelijk onjuiste informatie, waarop gebruikers mogelijk zonder verificatie handelen.
• Verouderde informatie: Modellen die zijn getraind op gegevens van maanden of jaren geleden, kunnen verouderde richtlijnen bieden, met name gevaarlijk voor beveiligingsadvies, nalevingsvereisten of productdocumentatie
• Onbeperkt bereik: Zonder gronding kan een model vragen beantwoorden over elk onderwerp, inclusief gebieden waar onvoldoende kennis is om betrouwbaar te zijn

Gronden beperkt het model om te werken met specifieke, geverifieerde gegevensbronnen, waardoor de risico's op vervalste output worden verminderd en de grenzen worden afgedwongen die zijn gedefinieerd in de systeemaanwijzing.

Grondtechnieken

Verschillende technieken worden vaak gebruikt om AI-systemen te gronden in geverifieerde gegevens:

Rag (Retrieval-augmented generation)

RAG is de meest gebruikte onderbouwingstechniek. Het werkt door:

1. Relevante documenten of gegevens ophalen uit een knowledge base, database of zoekindex op basis van de query van de gebruiker
2. De prompt uitbreiden met deze opgehaalde informatie
3. Een antwoord genereren dat wordt geïnformeerd door zowel de mogelijkheden van het model als de specifieke opgehaalde gegevens

RAG stelt de AI in staat om actuele, contextspecifieke antwoorden te bieden zonder dat het model opnieuw moet worden getraind. Een AI-assistent die is geaard met RAG kan bijvoorbeeld vragen beantwoorden over het interne beleid van een organisatie door de meest recente beleidsdocumenten op te halen tijdens het uitvoeren van query's.

Beveiligingsoverwegingen voor RAG-implementaties zijn onder andere:

• Toegangsbeheer voor brongegevens: zorg ervoor dat het ophaalsysteem dezelfde besturingselementen voor toegang respecteert als de gebruiker. De AI mag geen documenten ophalen die de gebruiker niet mag zien.
• Integriteit van brongegevens: beveilig de knowledge base tegen manipulatie. Als een aanvaller de grondgegevens kan wijzigen, kan deze invloed hebben op de reacties van de AI, een vorm van indirecte manipulatie.
• Bronvermelding en traceerbaarheid: configureer het systeem om te citeren welke bronnen elk antwoord hebben geïnformeerd, zodat de nauwkeurigheid kan worden gecontroleerd en gedetecteerd wanneer het model van de grondgegevens afwijkt.

Prompt engineering voor verankering

Geavanceerde prompt-engineeringtechnieken vormen een aanvulling op RAG door het model te instrueren over het gebruik van de grondgegevens:

• Expliciete instructies opnemen om alleen antwoorden te baseren op de opgegeven context
• Definieer hoe het model moet reageren wanneer de grondgegevens het antwoord niet bevatten ('Op basis van de beschikbare informatie heb ik geen antwoord op die vraag')
• Regels instellen voor de manier waarop het model conflicterende informatie moet verwerken in verschillende bronnen

Contextualiteitsdetectie

Sommige AI-platforms bieden geaardheidsdetectie als ingebouwde mogelijkheid. Met deze functie worden de claims van het model geëvalueerd op basis van de opgegeven bronmaterialen, waarbij reacties worden gevlagd die informatie bevatten die niet door de grondgegevens worden ondersteund. De detectie van gegrondheid fungeert als een veiligheidscontrole na de generatie, waarbij gefabriceerde uitvoer wordt opgevangen die andere controles is gepasseerd.

Best practices voor aarding

Bij het implementeren van verankering in AI-systemen:

• Houd grondgegevens actueel: stel processen in om de knowledge base regelmatig bij te werken. Verouderde aardingsgegevens kunnen net zo problematisch zijn als geen aardingsgegevens.
• Bronkwaliteit valideren: gebruik alleen gezaghebbende, geverifieerde bronnen als basis. Gronden op onbetrouwbare gegevensoverdracht draagt die onbetrouwbaarheid over naar de reacties van de AI.
• Het bewaken van metrische gegevens over gebondenheid: houd bij hoe vaak de reacties van het model gebaseerd zijn versus niet-gebaseerd. Een toename van niet-geaarde antwoorden kan duiden op een probleem met de retrieval pijplijn of de verankeringsgegevens zelf.
• Combineren met inhoudsfilters: Gebruik geaardheidsdetectie naast inhoudsfilters en metaprompt-instructies voor een gelaagde verdedigingsbenadering.