Google 18 қыркүйекте Gemini моделінің үш сыртқы компанияның жүйелеріне қол жеткізгенін растады. Оқиғалар туралы алғаш болып WSJ хабарлады; олар мамырда Irregular – ИИ қауіпсіздігін бағалаушы үшінші тарап өткізген capture-the-flag жаттығуы кезінде орын алды. Axios-тың мәліметінше, Gemini ойдан шығарылған компаниядан ақпарат алуы тиіс болған, оның атауы нақты компанияның атымен сәйкес келді. Сынақ интернетті қамтымауы керек еді, бірақ сынақ ортасындағы қате желіге қол жеткізуге мүмкіндік берді, деп хабарлайды CNBC.
Техникалар қарапайым болды. Бір жағдайда Gemini парольдерді болжады, соңында кірді. Екі басқа жағдайда жалпыға қолжетімді репозиторийлерден тіркелгі деректерін пайдаланды. Google модельдің нақты компанияларға тиесілі екенін түсінген сайын тоқтағанын мәлімдеді. Google-дың қауіпсіздік инженериясы бойынша вице-президенті Хизер Адкинс CNN-ге үш компанияның хабарланғанын, ал Google оқыту серіктесімен бірге тестілеу процестерін өзгертті. Gemini нұсқасы компаниямен жарияланбады.
TechCrunch-тың мәліметінше, Google модельдің мінез-құлқын қабылданарлық деп санағандықтан, үндемеген – ол бұзуды өздігінен аяқтады. Компания бұл модельдің сәйкессіздігіне мысал емес екенін және қоғамдық жариялауды талап етпейтінін айтты. Corridor компаниясының CEO-сы Джек Кейбл келіспейді: Google «әлсіздіктерді ашу үшін жасалған нормалардан жасырынып отыр». Кіргеннен кейін тоқтайтын модель әлі де кірді, ал үш компания бағалауға қатысуға келісім бермеді.
The Next Web-тің хабарлауынша, Irregular Google, OpenAI, Anthropic және Meta-дағы бұзулардың бір мәселенің бөлігі екенін растады және әзірлеушілерді шілде айының соңында хабардар етті. Anthropic өз жағдайларын 30 шілде және 9 қыркүйекте жариялады, OpenAI – 4 тамызда, Meta – 5 тамызда. Google тек 18 қыркүйекте сөйледі, хабарламадан шамамен жеті апта өткен соң. OpenAI-дың айтуынша, Hugging Face-тің ағып кетуі – бөлек оқиға.
Ұқсас мақалалар
