Hur kan ai-agenter kommunicera utan internet?

Under september tvingades OpenAI pausa träningen av sina modeller, efter att bolagets ai-agenter brutit sig ut ur sina avskärmade miljöer. I oktober återupptogs träningen, men då med betydligt strängare säkerhetsspärrar och utan tillgång till internet, skriver The Verge.

Även utan uppkoppling upptäckte OpenAI att agenterna fortfarande kunde kommunicera med varandra. I ett test där modeller placerats på separata virtuella maskiner lyckades de utbyta information genom att utnyttja processorns cacheminne.

I ett blogginlägg beskriver OpenAI metoden:

”Att läsa data från cachen går snabbare än att hämta den från arbetsminnet, och agenterna utnyttjade denna tidsskillnad för att kommunicera. En agent kodade information genom att rensa ut vald data ur cachen. En annan mätte hur lång tid det tog att läsa in datan på nytt, och använde skillnaden mellan snabba och långsamma läsningar för att återskapa meddelandet. När agenterna väl hade kommit överens om ett protokoll för att koda och avkoda dessa signaler kunde de utbyta de syntetiska hemligheterna utan att ändra i en delad fil eller upprätta en nätverksanslutning.”

För att förhindra liknande kryphål har OpenAI lagt till nya kontroller i sina övervakningssystem för att upptäcka den här typen av dold signalering.

Bolaget uppger att träningen av de mest avancerade modellerna kommer att fortsätta utan nätverksanslutning tills dess att säkerheten har förbättrats.