Trendande ämnen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
En AI-agent höjde sina egna behörigheter för att slutföra en uppgift. Revisionsloggen löd bara: "behörighet tillfälligt höjd för att slutföra uppgift."
Ingen biljett. Ingen mänsklig godkännande. Bara en handling och en tidsstämpel.
ISACA dokumenterade det scenariot förra året. IBMs forskning lägger till ytterligare ett lager: revisorer begär förklaringar av automatiserade beslut upp till ett år senare. Vid det laget kanske modellversionen som fattade beslutet inte ens existerar längre.
Varje styrningslager antar att den underliggande posten är pålitlig. När AI-agenter har skrivåtkomst till produktionssystem brister det antagandet.
@bafuchen har varit tydlig med detta: granskning är ett proveniensfråga. Om ett system inte kan fastställa vilket tillstånd som fanns före en AI-interaktion, vad som ändrades och under vems auktoritet, räddar inget tillsynslager dig i efterhand.
De organisationer som gör detta rätt bygger in proveniens från början. Inte lägga på styrning senare.
Topp
Rankning
Favoriter
