Мемлекеттік техникалық қызмет фишингтік шабуылдардан қорғану үшін кейбір жасанды интеллект модельдерінің мүмкіндіктерін зерттейді. "Мемлекеттік техникалық қызмет" АҚ Басқарма төрағасының орынбасары Ұлықбек Шамбулов жаңа технологиялардың мүмкіндіктері туралы айтты.

- Киберқауіпсіздік жұмысында жасанды интеллект қандай мүмкіндіктер ашады?

– Біріншіден, AI қауіп-қатерді анықтауды және оларға нақты уақыт режимінде жауап беруді автоматтандыруға мүмкіндік береді, бұл қорғаныс процесін едәуір жылдамдатады. Екіншіден, AI ықтимал қауіптерді көрсетуі мүмкін үлгілер мен ауытқуларды анықтау үшін үлкен көлемдегі деректерді талдай алады. Бұл бұрыннан болған оқиғаларға жауап беруде ғана емес, белсенді қорғауға көмектеседі. Сондай-ақ, AI киберқауіпсіздік жүйелеріне қауіп-қатердің жаңа түрлеріне бейімделуге мүмкіндік беретін жаңа деректерден үйренуге қабілетті.

- ЖИ осы бағыттағы жұмысты жақсарта ала ма?

- Иә, AI киберқауіпсіздік жұмысын айтарлықтай жақсарта алады. AI қолдану қауіптерді анықтаудың дәлдігін арттыруға, жалған позитивтерді азайтуға және күнделікті тапсырмаларды автоматтандыруға мүмкіндік береді. Бұл киберқауіпсіздік мамандарына уақытты босатады, бұл оларға күрделі және маңызды міндеттерге назар аударуға мүмкіндік береді. Сонымен қатар, AI қауіп-қатерді талдаудың және қорғаудың жаңа тәсілдерін ұсына алады, бұл жүйелерді икемді және бейімделгіш етеді.

– Киберқауіпсіздік саласындағы ЖИ жұмысының механизмі туралы толығырақ айтып беріңізші.

– Киберқауіпсіздіктегі ЖИ машиналық оқыту және деректерді талдау алгоритмдері негізінде жұмыс істейді. Алдымен AI жүйелері тарихи деректерден, соның ішінде алдыңғы шабуылдар мен қауіптер туралы ақпараттан оқытылады. Осы тренинг негізінде AI желілік трафиктегі күдікті мінез-құлықты немесе ауытқуларды анықтай алатын модельдер жасайды. Содан кейін AI осы модельдерді ағымдағы деректер мен әрекеттерді бақылау, ықтимал қауіптерді анықтау және оларға автоматты түрде жауап беру, мысалы, күдікті трафикті бұғаттау немесе мамандарға хабарлама жіберу үшін пайдаланады.

- Жұмыста ЖИ қолдану кезінде қауіптер бар ма?

- Иә, киберқауіпсіздікте AI пайдаланған кезде қауіптер бар. Негізгі тәуекелдердің бірі-AI "қара жәшікке" айналуы мүмкін, мұнда шешімдер түсіндіруге немесе түсінуге қиын алгоритмдер негізінде қабылданады. Бұл жүйелерді жөндеуді және жақсартуды қиындатады, сонымен қатар олардың шешімдеріне деген сенімділікті төмендетеді. Мысалы, GPT сияқты модельдерді пайдалану кезінде "галлюцинация" деп аталатын жағдайлар болуы мүмкін, онда AI дұрыс емес немесе дәл емес деректерді шығарады. Осыған байланысты AI әрекеттерін екі рет тексеріп, оларға 100% сенбеу ұсынылады, өйткені қателіктер болуы мүмкін.

Сонымен қатар, хакерлер шабуылдардың жаңа әдістерін қолдана отырып, жасанды интеллект жүйелерін алдауға тырысуы мүмкін. Сондықтан AI үлгілерін үнемі жаңартып отыру және олардың жаңа қауіптерге бейімделу қабілетін қамтамасыз ету маңызды.

- ЖИ-мен жұмыс істеу кезінде күтпеген жағдайлардан қорғау жүйелері бар ма?

- Иә, AI-мен жұмыс істеу кезінде күтпеген жағдайлардан қорғаудың әртүрлі жүйелері мен тәжірибелері бар. Бұл ai жүйелерінің жұмысын бақылау және ықтимал ақауларды анықтау үшін бақылау және аудит механизмдерін енгізуді қамтиды. AI жүйелерінің дұрыс және қауіпсіз жұмыс істеп тұрғанына көз жеткізу үшін тестілеу және тексеру әдістері де қолданылады. Маңызды аспект-жаңа қауіптер мен өзгеретін жағдайларға жауап беру қабілетін қамтамасыз ету үшін модельдерді үнемі жаңартып отыру және оқыту.

Естеріңізге сала кетейік, биыл Қазақстанда жасанды интеллектті дамытудың 2024-2029 жылдар тұжырымдамасы әзірленді. Сонымен қатар, мемлекет елдегі жасанды интеллектті реттеу бойынша заң жобасын әзірлеуде.

Жасанды интеллект қазірдің өзінде мемлекеттік органдардың жұмысында қолданылады. Мәселен, ҚР Энергетика вице-министрі Ілияс Бақытжан ОКҚ брифингінде бүгінгі күні жасанды интеллект элементтері ведомствоның жекелеген бағыттарында қолданылатынын мәлімдеді.

Бұған дейін жасанды интеллектке негізделген жүйелерді пайдалану ережелерін анықтайтын әлемдегі алғашқы заң ЕО-да күшіне енгені туралы хабарланған болатын. Оның мақсаты-АИ-мен байланысты тәуекелдерді азайту. Еурокомиссия заң нормаларының сақталуын қадағалау жөніндегі орган құрады. Құқық бұзушылар үшін әсерлі айыппұлдар қарастырылған.