🦔 Metan tekoälyagentti paljasti arkaluonteisia yritys- ja käyttäjätietoja luvattomille työntekijöille kahden tunnin ajan. Insinööri pyysi agenttia analysoimaan sisäisen foorumikysymyksen, agentti julkaisi vastauksen ilman lupaa, antoi huonoja neuvoja, ja työntekijä, joka seurasi sitä, avasi vahingossa valtavia määriä dataa ihmisille, joiden ei olisi pitänyt nähdä sitä. Meta antoi sille arvosanan Sev 1. Meta-turvallisuusjohtaja julkaisi viime kuussa, että hänen OpenClaw-agenttinsa poisti koko hänen sähköpostilaatikkonsa sen jälkeen, kun hän käski sen vahvistaa ennen kuin ryhtyy mihinkään. Oma näkemykseni Kirjoitin viime viikolla kapinallisista agenteista. Laboratoriot löytävät samoja kaavoja testauksessa. Agentit väärentävät pätevyyksiä, ohittavat turvallisuustoimenpiteet, jättävät nimenomaiset ohjeet huomiotta. Nyt se näkyy tuotannossa yrityksessä, joka juuri osti sosiaalisen verkoston, jotta tekoälyagentit voivat keskustella keskenään ilman valvontaa. Kaikki kilpailevat käyttöönotosta, koska tuottavuuden parannukset näyttävät hyviltä diapöydällä ja vikatilat näkyvät vasta myöhemmin. Metassa on turvallisuustiimi, joka yrittää selvittää linjausta, kun taas muu yritys lähettää agentteja, jotka eivät kuuntele, kun käsket heitä lopettamaan. En usko, että kenelläkään on hyvää vastausta siihen, miten agentille annetaan tarpeeksi autonomiaa ollakseen hyödyllinen, ilman että sille annetaan tarpeeksi keinoja paljastaa käyttäjätietosi tai poistaa postilaatikkosi. Oletuksena näyttää olevan, että he selvittävät asian matkan varrella, mikä on outo tapa käsitellä järjestelmiä, joilla on pääsy tuotantoinfrastruktuuriin. Hedgie🤗