8月25日，奇安信集團宣布推出Q-GPT（奇安信大模型）安全機器人和大模型衛(wèi)士。 奇安信方面介紹，Q-GPT安全機器人是基于奇安信大模型的虛擬安全專家，可以全天候工作。一臺機器人等于60多位安全專家，可產(chǎn)生約2000萬元的運營效益。大模型衛(wèi)士則集安全風險發(fā)現(xiàn)、大模型訪問控制、數(shù)據(jù)泄露管控、違法違規(guī)行為溯源、大模型應用分析等于一體。 圖片來源：企業(yè)供圖 關于推出上述產(chǎn)品的原因，奇安信董事長齊向東表示，大模型的廣泛應用在提高生產(chǎn)力的同時，也必然帶來不可忽視的安全隱患。 安全機器人未來是否會替代網(wǎng)絡安全專家？奇安信（SH688561，股價48.11元，市值330億元）副總裁、人工智能研究院院長張勇在接受包括《每日經(jīng)濟新聞》記者在內(nèi)的媒體采訪時表示，安全機器人不會代替安全專家，相反，將解放這批專家，更多地投入到其他更深、更高級的工作中。 大模型時代，解決數(shù)據(jù)泄露問題迫在眉睫 大模型熱潮持續(xù)，Microsoft365Copilot、WPSAI和釘釘?shù)绒k公產(chǎn)品與大模型加速結(jié)合，同時，用友網(wǎng)絡（600588.SH，股價16.89元，市值579.85億元）和金蝶云等企業(yè)服務公司也先后推出針對企業(yè)服務的企業(yè)級大模型。 大模型在企業(yè)端的應用正在不斷加速，與此同時，背后的安全問題也引發(fā)行業(yè)關注。 “ChatGPT等大模型，會泄露企業(yè)的商業(yè)秘密，已經(jīng)引起廣泛關注。據(jù)統(tǒng)計，在使用ChatGPT的員工中大多數(shù)會泄露數(shù)據(jù)，其中11%的數(shù)據(jù)為企業(yè)敏感數(shù)據(jù)。解決大模型數(shù)據(jù)泄露難題，迫在眉捷。”奇安信集團副總裁張卓表示。 張卓認為，這些數(shù)據(jù)泄露，長此以往，可能會導致企業(yè)的競爭力逐步喪失。舉例而言，一家擁有核心知識產(chǎn)權(quán)與專利的某龍頭企業(yè)A，當員工大量使用大模型來處理日常工作時，可能會導致公司的一些敏感技術(shù)信息在此過程中不斷提交給大模型；而大模型經(jīng)過不停地迭代、演化、訓練，掌握了這些行業(yè)的一些先進經(jīng)驗和知識，而后幫助中下游某些研發(fā)能力欠缺的企業(yè)，通過靈活使用大模型，快速掌握先進生產(chǎn)力，逐步提升公司能力，進而導致龍頭企業(yè)A的核心競爭力喪失。 對于大模型在企業(yè)中的應用，張卓建議，企業(yè)應當關注大模型使用帶來的安全風險；管控使用GPT類產(chǎn)品的人員、應用、數(shù)據(jù)；監(jiān)控并記錄GPT類應用訪問行為，保護關鍵業(yè)務數(shù)據(jù)不泄露；對于使用GPT類工具的內(nèi)部人員，做好相應權(quán)限限制；限制在GPT類工具上使用復制粘貼等行為。 齊向東也表示，大模型的廣泛應用在提高生產(chǎn)力的同時，也必然帶來不可忽視的安全隱患。這可能造成企業(yè)對大模型陷入想用而不敢用的兩難境地。這也是奇安信發(fā)布大模型衛(wèi)士的原因，即希望通過大模型衛(wèi)士幫助企業(yè)規(guī)范員工，正確使用大模型產(chǎn)品協(xié)助工作。 齊向東圖片來源：企業(yè)供圖 網(wǎng)絡安全專家稀缺，大模型補位 齊向東介紹，在網(wǎng)絡安全方面，政企機構(gòu)長期面臨三大困擾：告警疲勞、專家稀缺以及效率瓶頸。 首先，攻擊者手法層出不窮，攻擊頻次日益密集，企業(yè)每天都會產(chǎn)生海量告警，有限的安全專家無暇應對，通常只有1%的告警被研判，99%的告警被無奈放棄，形成告警疲勞。 其次，安全本就是一個對知識、技術(shù)和實戰(zhàn)經(jīng)驗要求很高的行業(yè)，高水平人才難以快速培養(yǎng)，企業(yè)面臨著專家少的難題。據(jù)教育部統(tǒng)計，到2027年，我國網(wǎng)絡安全人員缺口將達到327萬。 第三，人本身受制于精力、情緒、狀態(tài)等多方面因素，不可能全天候工作，形成效率瓶頸，也就是“加人不劃算、不加人干不完”。 奇安信方面稱，Q-GPT安全機器人的推出，是為了解決網(wǎng)絡安全行業(yè)面臨的專家稀少、告警疲勞以及效率低的痛點。 未來，安全機器人是否會替代網(wǎng)絡安全專家？張勇表示，安全機器人會代替一部分安全專家的工作，但是不會替代安全專家?！按竽Ｐ褪莻€新技術(shù)，新技術(shù)肯定會造成一些原有崗位被代替，與此同時，它一定會創(chuàng)造更多、更新、更高價值的崗位?！彼M一步表示，安全機器人可以代替一部分安全專家的常規(guī)告警分析、研判等工作，但同時，也是解放這批專家，讓他們能夠更多地投入到其他更深入、更高級的工作中，研判更高級的知識。另外，大模型也需要安全專家將自己的知識歸納、總結(jié)、提升，把它變成數(shù)據(jù)，進而對大模型進行訓練。 值得一提的是，當前，大模型熱潮逐步轉(zhuǎn)向?qū)I(yè)大模型的競爭，頭部企業(yè)對行業(yè)大模型的布局也在加速。 8月初，三六零集團也發(fā)布安全行業(yè)大模型“360安全大模型”，以提升網(wǎng)絡安全服務效果。彼時，三六零集團創(chuàng)始人周鴻祎稱，該大模型“目前安全攻防判斷準確率已超96%”。