Anthropic ашық кодты бағдарламалық қамтамасыз ету үшін тегін осалдық сканерін іске қосты

Anthropic ашық бастапқы бағдарламалық жасақтамада осалдықтарды табуға арналған тегін қызметті іске қосты, ол OSS Scanner деп аталады. Бұл бағдарламаға ерікті түрде қатысқысы келетін жобаларға және компанияның қуатты модельдерін, әсіресе Claude Mythos-ты пайдалана отырып, мерзімді шолулар алуға арналған. Қызмет Project Glasswing бастамасынан алынған тәжірибеге негізделген. Claude Security коммерциялық өнімінен айырмашылығы, OSS Scanner ашық бастапқы әзірлеушілерге көмектесуге бағытталған және тегін аудиттер ұсынады. Соңғы алты айда Anthropic өзінің жаңа модельдерін пайдалана отырып, маңызды бағдарламалық жобаларды қарастырды. Осы шолулар барысында 29,000-нан астам ықтимал осалдықтар анықталды, олардың тек шамамен 6,000-ын мамандар қолмен тексеріп, басымдық бере алды.

Ашық бастапқы әзірлеушілер барлық анықталған мәселелерді, тіпті олар әлі тексерілмеген болса да, оларға жіберуді жиі сұрайды. OSS Scanner іске қосылған кезде, Anthropic қолдаушыларға шамамен 5,000 осындай есептерді түзетулерге ұсыныстармен жіберді. Сканер есептерді автоматты түрде жасайды, бұл жобаларды жылдамырақ сканерлеуге мүмкіндік береді; дегенмен, Anthropic нәтижелерде жалған оң, қайталанатын немесе қате ауырлық бағалары болуы мүмкін екенін ескертеді. Іске қосылудан бұрын, OSS Scanner ондаған ашық бастапқы жобаларда сыналды, нәтижесінде бірнеше жүз қате есептері пайда болды. 48 жобадағы 97 маңызды және жоғары тәуекелді нәтижелерді одан әрі қарастыру кезінде 85 (88%) сапа стандарттарына сәйкес келді. Он бір нәтиже бұрыннан белгілі мәселелерді қайталайтын нақты қателер болды, ал біреуі жалған оң болды.

Кейбір қолдаушылар мәселелердің ауырлығын асыра бағалау немесе нақты жобаның қауіп-қатер моделін қате түсіндіру мүмкіндігін атап өтті. Anthropic әзірлеушілердің пікірлері негізінде жүйені жетілдіруді жалғастырады. Есептерде осалдықты қайта жасауға арналған код, мәселенің түсіндірмесі, оның кодта қашан пайда болуы мүмкін екендігі туралы ақпарат және түзетулерге ұсыныстар қамтылады. OSS Scanner-ге қосылғысы келетін жоба қолдаушылары қызметтің GitHub репозиторийінде стандартты үлгі мен нұсқауларды орындап, сұрау жасау арқылы өтініш бере алады. Anthropic жобаларды OSS-Fuzz сияқты критерийлер негізінде таңдайды, инфрақұрылым мен пайдаланушы қауіпсіздігіне айтарлықтай әсер етуге баса назар аударады.