7月19日下午，由觀察者網(wǎng)·心智觀察所主辦的首屆線下沙龍正式召開。本次沙龍以“無疆生成，有界行者”為主題，多位演講嘉賓圍繞AIGC技術(shù)革命牽引下的倫理難題應(yīng)對(duì)與治理，以人形機(jī)器人運(yùn)動(dòng)捕捉為代表的具身智能理念，以及美國對(duì)華AI算力管制等議題，與現(xiàn)場(chǎng)觀眾分享了在各自領(lǐng)域的真知灼見。

參加本次沙龍的演講嘉賓包括北京瑞萊智慧科技有限公司AI治理研究院院長(zhǎng)張偉強(qiáng)，邁柯博科技（上海）有限公司（Movella）亞太區(qū)業(yè)務(wù)總監(jiān)魏昌，美國凱騰律師事務(wù)所上海辦公室合伙人韓利杰。

觀察者網(wǎng)總經(jīng)理李波全程參會(huì)并做了開場(chǎng)致辭。心智觀察所負(fù)責(zé)人孫珷主持會(huì)議。

李波：“心智觀察所”志存高遠(yuǎn)

觀察者網(wǎng)總經(jīng)理李波在開場(chǎng)致辭中表示，“心智觀察所”是觀察者網(wǎng)新組建的以高科技為主要觀察方向的內(nèi)容創(chuàng)作團(tuán)隊(duì)，力求將“心智觀察所”打造為觀察者網(wǎng)的精品科技內(nèi)容IP。心智觀察所將竭力追蹤國內(nèi)外科技前沿動(dòng)態(tài)，把握科技產(chǎn)品市場(chǎng)脈搏，研判地緣政治博弈大勢(shì)，以文字、圖片、視頻等立體化內(nèi)容發(fā)布形態(tài)拓寬海內(nèi)外傳播渠道。

觀察者網(wǎng)總經(jīng)理李波

李波闡述，如何保證產(chǎn)、學(xué)、研高質(zhì)量結(jié)合，促成科技成果的有效商業(yè)轉(zhuǎn)化是業(yè)界普遍關(guān)心的話題。心智觀察所舉辦系列科技沙龍的重要目的之一，就是為了探索如何以新媒體人的視角，近距離體會(huì)和洞察科技產(chǎn)業(yè)一線群體關(guān)切，及時(shí)對(duì)接產(chǎn)業(yè)需求。

李波強(qiáng)調(diào)，目前國內(nèi)科技、財(cái)經(jīng)類媒體的傳播和經(jīng)營模式正在經(jīng)歷一場(chǎng)深層次的嬗變。觀察者網(wǎng)多年來聚焦國內(nèi)外時(shí)政新聞，已經(jīng)在海內(nèi)外積累了巨量的人氣，也總結(jié)了一套成熟有效且成體系的內(nèi)容創(chuàng)作、發(fā)布方法論。以此為依托，觀察者網(wǎng)希望科技界企業(yè)代表、投資方、高校學(xué)科帶頭人積極參會(huì)，攜手心智觀察所一起講好中國新質(zhì)生產(chǎn)力敘事。

張偉強(qiáng)：保障安全性是AI治理的第一要?jiǎng)?wù)

瑞萊智慧AI治理研究院院長(zhǎng)張偉強(qiáng)發(fā)表了以《大模型時(shí)代的人工智能安全態(tài)勢(shì)與應(yīng)對(duì)實(shí)踐》為主題的演講。

張偉強(qiáng)首先追溯了我國的人工智能研究和治理歷程，指出AI對(duì)助力新質(zhì)生產(chǎn)力建設(shè)的重要性，特別是在提升社會(huì)治理能力、信息利用能力等方面具有的重大貢獻(xiàn)。但同時(shí)，AI技術(shù)發(fā)展也帶來很多新型的社會(huì)倫理問題。

瑞萊智慧AI治理研究院院長(zhǎng)張偉強(qiáng)

張偉強(qiáng)闡述，相比傳統(tǒng)計(jì)算機(jī)技術(shù)，人工智能現(xiàn)在還沒有扎實(shí)的理論基礎(chǔ)，大模型對(duì)人類來講還是一個(gè)“黑箱”，會(huì)產(chǎn)生新型安全風(fēng)險(xiǎn)。比如，在大模型訓(xùn)練過程中“投毒”污染數(shù)據(jù)，可誤導(dǎo)AI判斷并輸出錯(cuò)誤信息；再比如，AI偽造文本、圖片、音頻和視頻會(huì)擾亂大眾信息認(rèn)知，帶來嚴(yán)重的社會(huì)治安隱患。這些新型風(fēng)險(xiǎn)，需要社會(huì)各界共同尋找應(yīng)對(duì)之策。

張偉強(qiáng)強(qiáng)調(diào)，AI風(fēng)險(xiǎn)治理最根本的，在于建立底層技術(shù)理論，需要在數(shù)學(xué)理論、模型架構(gòu)等方面不斷創(chuàng)新突破。其次，應(yīng)當(dāng)加強(qiáng)治理手段的建設(shè)，如不斷增強(qiáng)對(duì)大模型的安全測(cè)評(píng)能力，人工智能產(chǎn)品經(jīng)過嚴(yán)格安全測(cè)評(píng)后才可以投入市場(chǎng)應(yīng)用；不斷提升對(duì)AI偽造信息的檢測(cè)能力，通過技術(shù)手段確保新聞、司法、社交等領(lǐng)域數(shù)字信息的真實(shí)性。

張偉強(qiáng)在演講總結(jié)環(huán)節(jié)中提出了“靶場(chǎng)”概念，認(rèn)為人工智能產(chǎn)品出廠條件應(yīng)與汽車相似，在出廠前完成攻防演練，以保障其安全性。瑞萊智慧在這一領(lǐng)域已經(jīng)積累了豐富經(jīng)驗(yàn)，比如開展人工智能模型安全測(cè)評(píng)、設(shè)立人臉安全防火墻、實(shí)現(xiàn)多模態(tài)信息偽造檢測(cè)等，發(fā)展和安全雙軌并驅(qū)，在“矛”和“盾”的較量中提升兩方面的技術(shù)能力。