教育在線
近日，阿里巴巴集團(tuán)與清華大學(xué)簽訂協(xié)議，啟動(dòng)智能體與多模態(tài)安全產(chǎn)學(xué)研深度融合專項(xiàng)合作。雙方此次合作為期5年，聚焦智能體與多模態(tài)大模型在真實(shí)應(yīng)用場(chǎng)景中的核心安全挑戰(zhàn)展開攻關(guān)研究。中國(guó)科學(xué)院院士張鈸、中國(guó)工程院院士戴瓊海、阿里巴巴集團(tuán)副總裁錢磊出席簽約儀式。
張鈸院士表示，清華大學(xué)與阿里巴巴集團(tuán)啟動(dòng)重大研究專項(xiàng)，旨在通過“從0到1”的基礎(chǔ)理論與“從1到N”的產(chǎn)業(yè)場(chǎng)景深度融合，協(xié)同攻克多模態(tài)安全核心難題，筑牢下一代人工智能發(fā)展的安全基石。戴瓊海院士表示，雙方攜手攻關(guān)“智能體與多模態(tài)安全”，將合力貫通“創(chuàng)新策源”與“產(chǎn)業(yè)轉(zhuǎn)化”，是AI領(lǐng)域產(chǎn)學(xué)研深度融合的關(guān)鍵之舉。
據(jù)介紹，雙方將圍繞兩大方向展開系統(tǒng)性研究：一是智能體安全問題，涵蓋AI智能體在人機(jī)交互、自主決策、多模態(tài)環(huán)境中的行為可信性、隱私保護(hù)與風(fēng)險(xiǎn)防控；二是多模態(tài)大模型自身的安全問題，包括模型魯棒性、價(jià)值觀對(duì)齊等基礎(chǔ)安全能力。項(xiàng)目將研發(fā)“AI智能體安全中樞”“高階大模型內(nèi)生安全架構(gòu)”等關(guān)鍵技術(shù)，構(gòu)建從底層模型到上層應(yīng)用的全棧安全體系。
阿里巴巴集團(tuán)副總裁錢磊表示，清華大學(xué)擁有國(guó)際領(lǐng)先的AI科研能力，阿里巴巴具備豐富的AI應(yīng)用場(chǎng)景和實(shí)踐經(jīng)驗(yàn)，雙方的產(chǎn)學(xué)研合作實(shí)現(xiàn)了優(yōu)勢(shì)疊加，圍繞“負(fù)責(zé)任科技”理念開展前瞻性研發(fā)，并通過開源開放生態(tài)惠及全行業(yè)。
據(jù)了解，阿里巴巴集團(tuán)與清華大學(xué)在安全領(lǐng)域的產(chǎn)學(xué)研合作由來已久，在 CVPR、ICML、NeurIPS 等國(guó)際頂級(jí)學(xué)術(shù)會(huì)議發(fā)表近20篇高水平論文，多項(xiàng)技術(shù)從實(shí)驗(yàn)室創(chuàng)新轉(zhuǎn)化為產(chǎn)業(yè)級(jí)應(yīng)用。
① 凡本站注明“稿件來源：教育在線”的所有文字、圖片和音視頻稿件，版權(quán)均屬本網(wǎng)所有，任何媒體、網(wǎng)站或個(gè)人未經(jīng)本網(wǎng)協(xié)議授權(quán)不得轉(zhuǎn)載、鏈接、轉(zhuǎn)貼或以其他方式復(fù)制發(fā)表。已經(jīng)本站協(xié)議授權(quán)的媒體、網(wǎng)站，在下載使用時(shí)必須注明“稿件來源：教育在線”，違者本站將依法追究責(zé)任。
② 本站注明稿件來源為其他媒體的文/圖等稿件均為轉(zhuǎn)載稿，本站轉(zhuǎn)載出于非商業(yè)性的教育和科研之目的，并不意味著贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性。如轉(zhuǎn)載稿涉及版權(quán)等問題，請(qǐng)作者在兩周內(nèi)速來電或來函聯(lián)系。
