中新網(wǎng)北京3月6日電(記者 吳濤)隨著人工智能大模型的發(fā)展，大模型數(shù)據(jù)安全和自身安全問(wèn)題越來(lái)越受到重視。全國(guó)政協(xié)委員、全國(guó)工商聯(lián)副主席、奇安信科技集團(tuán)董事長(zhǎng)齊向東建議，開(kāi)展體系化的大模型安全防護(hù)，落實(shí)《生成式人工智能服務(wù)安全基本要求》，筑牢人工智能安全防線。
齊向東表示，以大模型為核心的人工智能技術(shù)是創(chuàng)新范式變革與產(chǎn)業(yè)升級(jí)的關(guān)鍵引擎，然而技術(shù)躍升與安全風(fēng)險(xiǎn)始終伴生演進(jìn)。人工智能大模型面臨四大安全挑戰(zhàn)，包括數(shù)據(jù)安全挑戰(zhàn)、應(yīng)用安全挑戰(zhàn)、基礎(chǔ)環(huán)境安全挑戰(zhàn)和大模型自身安全挑戰(zhàn)。
“以數(shù)據(jù)安全挑戰(zhàn)為例，大模型在訓(xùn)練、推理、使用過(guò)程中涉及海量數(shù)據(jù)，通過(guò)數(shù)據(jù)投毒、數(shù)據(jù)污染等手段，會(huì)使大模型輸出背離主流價(jià)值觀或包含事實(shí)性錯(cuò)誤的內(nèi)容。一些不法分子還會(huì)借助提示詞注入、劫持、爬蟲(chóng)等手段，竊取大模型用戶重要信息、敏感數(shù)據(jù)。”齊向東稱(chēng)。
齊向東建議，從技術(shù)層面全面排查加固人工智能大模型基礎(chǔ)設(shè)施，構(gòu)建大模型紅域，打造適用于人工智能的縱深防御體系，形成覆蓋終端、應(yīng)用、數(shù)據(jù)、大模型、算力與基礎(chǔ)設(shè)施的多維度核心防護(hù)能力。同時(shí)，給予威脅情報(bào)、大網(wǎng)數(shù)據(jù)監(jiān)測(cè)等情報(bào)賦能，有效抵御針對(duì)大模型的新型攻擊和惡意訪問(wèn)，實(shí)現(xiàn)“對(duì)外防攻擊、對(duì)內(nèi)防內(nèi)鬼”。
齊向東還建議重點(diǎn)打造大模型數(shù)據(jù)安全“雙控機(jī)制”，保障大模型穩(wěn)定運(yùn)行。對(duì)大模型數(shù)據(jù)輸入側(cè)及輸出側(cè)開(kāi)展有效管控，確保大模型數(shù)據(jù)安全、內(nèi)容安全、應(yīng)用安全。要求部署大模型的關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營(yíng)單位在網(wǎng)絡(luò)和數(shù)據(jù)安全建設(shè)上的投入比例不低于信息化建設(shè)的15%。(完)