最近，兩個(gè)人(rén)工智能系統徹底火(huǒ)出了圈，成為(wèi)許多(duō)網友(yǒu)熱議的焦點。
一個(gè)是冷酷無情的“幕後主角”MOSS，一個(gè)是多(duō)才多(duō)藝的“全能網友(yǒu)”ChatGPT。
科幻電(diàn)影(yǐng)《流浪地球2》中的面試環節令人(rén)印象深刻。
演員吳京飾演的劉培強面試空(kōng)間(jiān)站(zhàn)航天員以獲取讓家(jiā)人(rén)進入地下城避難的資格，面試他的不是人(rén)而是經過多(duō)重叠代、具備自我意識的人(rén)工智能系統MOSS（電(diàn)影(yǐng)中也稱“550W”）。
當一個(gè)紅點攝像頭對着劉培強輕輕一掃，他的家(jiā)庭情況和(hé)艱難選擇，連同其妻子的生(shēng)命剩餘天數(shù)都算(suàn)得(de)一清二楚，甚至還(hái)為(wèi)劉培強提供了所謂的“最佳選擇”。面試中，MOSS冷靜且尖銳的提問，理(lǐ)智而迅速的反應，一度讓劉培強情緒崩潰，觀衆也為(wèi)他捏了一把汗。
ChatGPT等此類生(shēng)成式AI将繁瑣和(hé)耗時(shí)的任務進行(xíng)自動化生(shēng)産，人(rén)類被解放出來(lái)專注于更關鍵的任務。它還(hái)可(kě)以産生(shēng)原創內(nèi)容和(hé)想法，并幫助研究和(hé)開(kāi)發新産品和(hé)服務。
人(rén)工智能的出色表現，對于許多(duō)企業和(hé)個(gè)人(rén)來(lái)說極具吸引力。AI面試、AI聊天、AI繪畫(huà)……AIGC（利用人(rén)工智能技(jì)術(shù)生(shēng)成內(nèi)容）作(zuò)為(wèi)工具在工作(zuò)生(shēng)活、工作(zuò)中應用趨于高(gāo)效且日益廣泛。
作(zuò)為(wèi)網絡空(kōng)間(jiān)安全與社會(huì)治理(lǐ)領域國家(jiā)隊、國投集團數(shù)字經濟闆塊重要企業，美亞柏科的AI研發團隊從2019年開(kāi)始，就已經采用“超大(dà)規模預訓練模型+下遊任務遷移”的技(jì)術(shù)方案，利用公司自身的自然語言處理(lǐ)技(jì)術(shù)，在NLP、OCR、計(jì)算(suàn)機視(shì)覺和(hé)人(rén)工智能安全等多(duō)個(gè)領域開(kāi)展人(rén)工智能分析方面的業務實踐，基于在電(diàn)子數(shù)據取證和(hé)執法部門(mén)大(dà)數(shù)據智能化領域多(duō)年的深耕和(hé)知識經驗的積累，對行(xíng)業客戶數(shù)據特點和(hé)業務需求的深刻理(lǐ)解，提出了文本智能分析理(lǐ)解、不良多(duō)媒體(tǐ)文件分析、反詐騙信息鑒别、多(duō)模态信息檢索等多(duō)個(gè)獨有(yǒu)的核心算(suàn)法模型，廣泛應用到公司輿情檢測、大(dà)數(shù)據情報分析和(hé)電(diàn)子數(shù)據取證類産品中。
美亞柏科将在國家(jiā)相關規定下合理(lǐ)利用生(shēng)成式AI技(jì)術(shù)，将ChatGPT類技(jì)術(shù)融入各類産品和(hé)項目中，提升公司已有(yǒu)産品在文本理(lǐ)解分析，不良信息處置，多(duō)模态數(shù)據檢索，案件支持知識庫智能化、大(dà)數(shù)據智能化和(hé)取證産品智能化方面的核心競争力，進一步提升公司在對各類生(shēng)成僞造圖像視(shì)頻、文本內(nèi)容的發現識别和(hé)鑒定相關産品的技(jì)術(shù)能力，全面提升美亞柏科全産品體(tǐ)系智能化交互，智能問答(dá)的能力。
目前，在客戶服務方面，美亞柏科已經将ChatGPT的相關技(jì)術(shù)應用到産品售後支持部門(mén)，基于取證産品知識庫，研發智能客服機器(qì)人(rén)系統，提升服務效率，有(yǒu)效節約售後支持的成本。
在人(rén)工智能向社會(huì)生(shēng)活的各個(gè)領域滲透之時(shí)，其安全的負面風險持續加劇(jù)且産生(shēng)實質危害，通(tōng)過深度合成和(hé)生(shēng)成式AI技(jì)術(shù)制(zhì)造虛假音(yīn)視(shì)頻圖像進行(xíng)誣陷、诽謗、詐騙、勒索等違法行(xíng)為(wèi)已屢見不鮮。
此外，深度合成和(hé)生(shēng)成式AI技(jì)術(shù)一旦被濫用，将會(huì)造成巨大(dà)的安全風險與實質性危害，給個(gè)人(rén)、企業造成肖像、名譽等人(rén)格和(hé)财産權益損害，也可(kě)能給社會(huì)秩序、國家(jiā)政治穩定和(hé)安全造成巨大(dà)威脅。
在法律層面，國家(jiā)互聯網信息辦公室、工業和(hé)信息化部、公安部聯合發布《互聯網信息服務深度合成管理(lǐ)規定》（以下簡稱《規定》）并于2023年1月10日起正式施行(xíng)。《規定》通(tōng)過系統性、創新性制(zhì)度設計(jì)，回應了對深度合成服務的管理(lǐ)要求，為(wèi)互聯網信息服務深度合成的規範發展提供了基本遵循和(hé)合法依據。
阻止AI濫用，防止AI作(zuò)惡，也需發揮技(jì)術(shù)能力，用“魔法”打敗“魔法”。美亞柏科自2017年便深度開(kāi)展人(rén)工智能技(jì)術(shù)研究。為(wèi)了應對利用人(rén)工智能技(jì)術(shù)可(kě)能帶來(lái)的安全問題，于2019年特别針對深度合成技(jì)術(shù)成立專項研究團隊（下稱“專項團隊”）。
