OpenAI teigia, kad naujai įdiegta centralizuota sistema „Control Room“ gali sustabdyti tolesnį modelio atsakymų generavimą ne vėliau kaip per 35 sekundes nuo sustabdymo komandos pateikimo.

Bendrovė „Control Room“ apibūdina kaip saugumo sluoksnį, sujungiantį tyrimų užduotis, inferencijos sistemas ir centralizuotą prieigos kontrolės paslaugą. Tai leidžia sustabdyti vykdomus tyrimų procesus, galinčius kelti riziką. OpenAI nurodo, kad ši sistema jau įdiegta visoje jos tyrimų infrastruktūroje.

Kaip veikia sustabdymo ir prieigos atšaukimo mechanizmas

„Control Room“ sudaro trys pagrindiniai komponentai: tyrimų užduotis, inferencijos sistema ir centralizuota „Control Room“ paslauga. OpenAI terminologijoje užduotis – tai tyrimų veikla, pavyzdžiui, sustiprinamojo mokymosi eksperimentai, vertinimai ar didelės apimties duomenų apdorojimo darbai, kuriems reikalinga agentinė inferencija.

Kiekviena užduotis, kuriai reikia agentinės inferencijos, turi būti susieta su patvirtintu saugos dokumentu. Tyrėjui paleidus procesą, užduoties kodas iš „Control Room“ gauna unikalų užduoties ID. Šis ID pridedamas prie kiekvienos užklausos, siunčiamos į inferencijos sistemas, kurios modelius tiesiogiai vykdo GPU procesoriuose ir generuoja atsakymus.

Prieš grąžindama atsakymą, inferencijos sistema kreipiasi į „Control Room“, kad patvirtintų, ar užduotis vis dar turi leidimą veikti. Jei tyrėjas ar automatizuota stebėsenos sistema pateikia sustabdymo komandą, „Control Room“ atmeta kitą užklausą, o inferencijos sistema nebeleidžia generuoti tolesnių atsakymų. OpenAI pažymi, kad programos vykdymas nebūtinai nutraukiamas ar uždaromas, tačiau modelis nebegali generuoti atsakymų. Toks sprendimas kritinį tikrinimo sluoksnį perkelia į inferencijos sistemą ir sumažina priklausomybę nuo atskirų tyrėjų atliekamų saugumo patikrų individualiose kodų bazėse.

OpenAI teigia, kad „Control Room“ sukurta vadovaujantis numatytojo blokavimo principu, taikomu įvykus klaidai. Jei centralizuota paslauga sutrinka, pažeidžiama ar tampa nepasiekiama, inferencijos sistemos neapdoroja užklausų, kol sistema neatkuriama.

Bendrovė nurodo, kad iki 35 sekundžių trunkantis maksimalus vėlavimas tarp sustabdymo komandos pateikimo ir faktinio atsakymų blokavimo atsiranda dėl talpyklos sluoksnio, naudojamo dideliam užklausų kiekiui valdyti. OpenAI siekia šį laiką sumažinti iki nulio.

OpenAI teigia, kad „Control Room“ jau įdiegta visoje jos tyrimų infrastruktūroje.