AI-governance
AI-modellen lezen, extraheren en stellen voor. Ze schrijven niet in een beheerde registratie, geven geen certificaat vrij en tekenen niets. Die grens zit in de architectuur, niet in een beleidsstuk, en op deze pagina wordt ze getrokken.
Wat het model aanraakt
Vier taken, alle vier vóór een beslissing. Let op wat er in de lijst ontbreekt: niets hiervan schrijft, geeft vrij of tekent.
Elke maat, tolerantie, opmerking en vorm- en plaatstolerantiekader op het blad, gevonden en teruggegeven als een geballonneerde tekening met een kenmerkenlijst ernaast. De nummering zelf is deterministisch en zit in code, ze wordt niet door het model bepaald.
Specificaties, werkinstructies en leveranciersdocumenten, ontleed tot gestructureerde eisen in plaats van samengevat tot lopende tekst.
Een vraag over een projectdocument komt terug met precies de passage waaruit het antwoord komt, zodat het gecontroleerd kan worden in plaats van geloofd.
De assistent leest dezelfde live data als de operatorterminal en stelt voor waar als volgende te kijken. Hij heeft geen schrijfpad naar de machine.
De grens
Een voorstel steekt over van het model naar een mens. De andere kant op steekt niets over. Elke oversteek laat iets achter dat een auditor kan volgen.
Vier artefacten, en waar elk ervan in de tekening hierboven vandaan komt. Twee komen van het model, één van de mens, en één is de registratie zelf.
Uit het model
Draagt het tekeningblad en de zone waar hij vandaan komt, zodat een in een review aangevochten cijfer tot op de millimeter terug te volgen is.
Uit het model
Draagt de passage waaruit het komt. Een antwoord zonder bron is geen antwoord.
Van de mens
Een mens die zich op het moment van tekenen opnieuw legitimeert. Ze belandt in het handtekeningmanifest, samen met wat er is getekend.
De beheerde registratie
Alleen toevoegen en met hashes aaneengeschakeld. Registraties worden vervangen, nooit bewerkt of verwijderd, eerdere versies blijven leesbaar, en een verzegelde registratie kan ook door een beheerder niet worden weggehaald.
Als het misgaat
Een model dat het meestal goed heeft, is een risico als niets de rest opvangt. Dit zijn de antwoorden, en ze zijn de reden dat de grens hierboven ligt waar ze ligt.
Het stelt voor; een mens bevestigt, corrigeert en tekent. Een fout voorstel wordt gecorrigeerd voordat er iets wordt vastgelegd, en de correctie hoort bij de registratie.
Het platform werkt gewoon door. Ballonneren, inspectie, de werkvloer en de registratie hangen er niet van af dat een model bereikbaar is.
Vergrendelingen weigeren. Een bewerking buiten de volgorde, een meetmiddel buiten kalibratie, een certificaat met een openstaande afwijking: het systeem breekt af in plaats van te waarschuwen en door te gaan.
Vragen