Astana IT University студенті Айғаным Тулебаева AI-Sana көрмесінде компаниялардың құпия ақпаратын жасанды интеллект сервистеріне таралып кетуден қорғауға арналған ExoAI жобасын ұсынды.

Әзірлеме корпоративтік үдерістерде үлкен тілдік модельдерді (LLM) пайдалану кезінде ақпараттық қауіпсіздікті арттыруға бағытталған.

Қазіргі уақытта жасанды интеллект құралдары шағын және орта бизнесте, қаржы ұйымдарында және ірі компанияларда кеңінен қолданылады. Бұл технологиялар күнделікті міндеттерді автоматтандырып, жұмыс тиімділігін арттыруға мүмкіндік береді.

Фото: Gov.kz

Алайда ашық ЖИ сервистерін пайдалану корпоративтік ақпараттың қауіпсіздігіне қатысты жаңа тәуекелдер туындатады.

Атап айтқанда, қызметкерлер нейрожелілермен жұмыс барысында жеке деректерді, банктік деректемелерді және компанияның өзге де құпия ақпаратын сыртқы сервистерге байқамай жіберуі мүмкін.

Осы мәселені шешу үшін ExoAI жобасы әзірленген.

ExoAI – Zero Trust («нөлдік сенім») қағидатына негізделген прокси-сервер. Ол компанияның ішкі инфрақұрылымы мен сыртқы үлкен тілдік модельдер арасында қорғаныс қабаты ретінде жұмыс істейді.

Жүйе сыртқы сервиске жіберілетін ақпаратты алдын ала талдап, құпия деректерді анықтайды. Кейін оларды қорғалған токендермен немесе шифрланған белгілермен алмастырады.

Фото: Gov.kz

Нәтижесінде бастапқы құпия ақпарат ашық күйінде сыртқы жасанды интеллект моделіне берілмейді.

Сонымен қатар ExoAI күмәнді әрекеттерді және қауіпсіздік шектеулерін айналып өтуге бағытталған әрекеттерді анықтайтын хабарландыру жүйесін қамтиды.

Оның ішінде jailbreak-шабуылдарын анықтау мүмкіндігі де қарастырылған.

Бұл компанияларға ықтимал қауіптерді дер кезінде байқап, жасанды интеллект құралдарын қауіпсіз пайдалану тетіктерін жетілдіруге көмектеседі.

Жоба авторы Айғаным Тулебаеваның айтуынша, әзірлеменің маңызды ерекшеліктерінің бірі – қорғаныс механизмдерін Қазақстандағы корпоративтік деректердің ерекшеліктеріне бейімдеу.

Фото: Gov.kz

Атап айтқанда, жүйе бизнес-сәйкестендіру деректері мен банктік деректемелер сияқты ақпарат түрлерін ескеруге бағытталған.

– Бүгінде жасанды интеллект күнделікті жұмыс үдерістерінің бір бөлігіне айналып келеді. Сондықтан оны қауіпсіз пайдалануды қамтамасыз ету маңызды. ExoAI компанияларға деректердің құпиялылығын сақтай отырып, үлкен тілдік модельдердің мүмкіндіктерін пайдалануға көмектеседі.

Студенттің сөзінше, AI-Sana көрмесіне қатысу жобаны таныстырумен қатар, басқа технологиялық шешімдерді зерттеуге және сарапшылардан кері байланыс алуға мүмкіндік берген.

Фото: Gov.kz

Сондай-ақ ол әзірлемені одан әрі дамыту үшін әлеуетті инвесторлар мен серіктестер табуға мүдделі екенін жеткізді.

AI-Sana көрмесі жас әзірлеушілердің технологиялық жобаларын таныстыруына, тәжірибе алмасуына және бизнес пен инвестициялық қауымдастық өкілдерімен байланыс орнатуына жағдай жасайды.

ExoAI жобасы корпоративтік ақпаратты қорғау мен жасанды интеллектіні қауіпсіз енгізу бағытында отандық технологиялық шешімдерді дамытуға арналған бастамалардың бірі болып отыр.