新京報訊（記者張璐）北京前瞻人工智能安全與治理研究院近日成立，落戶中關村門頭溝園“京西智谷”。作為北京的新型研發(fā)機構，研究院將通過開展人工智能安全與治理相關前沿基礎理論研究、關鍵技術研發(fā)、標準規(guī)范制定、平臺工具構建與服務，有效監(jiān)測和防范人工智能的技術和社會風險，為企業(yè)、社會和政府提供人工智能安全護欄與安全人工智能模型與服務。

據北京前瞻人工智能安全與治理研究院院長曾毅介紹，人工智能的發(fā)展給全社會帶來前所未有的機遇與變革。同時，人工智能也帶來潛在風險與挑戰(zhàn)，比如隱私侵犯、虛假信息、人工智能幻覺、偏見歧視、自主系統(tǒng)風險等，人工智能安全與治理的問題已與每個人息息相關。社會無法接受缺乏方向盤和韁繩的人工智能無序野蠻狂奔，安全、倫理與治理將促進人工智能的穩(wěn)健發(fā)展。

作為北京前瞻人工智能安全與治理研究院的前身，北京人工智能安全與治理實驗室于2024年9月揭牌，在半年多的發(fā)展與建設期間，與合作機構共同發(fā)布了多項研究成果，比如在技術安全與治理方面，發(fā)表了涉及生成式人工智能大模型面對不同程度壓力的行為表現與機理研究、人工智能大模型的安全護欄研究等；在全球人工智能安全與治理評估與合作方面，聯合發(fā)布全球人工智能安全指數。

近日，經北京市民政局批復，北京市經信局作為主管單位，北京前瞻人工智能安全與治理研究院成立。研究院匯聚了來自中國科學院自動化研究所、中國信息通信研究院、北京大學、清華大學、北京郵電大學等科研團隊力量開展深度合作，并聯合多家人工智能與安全企業(yè)共同開展人工智能安全研究與治理實踐，建立健全覆蓋技術研發(fā)、風險評估、倫理審查、應急處置的全鏈條安全治理體系。

編輯 白爽

校對 王心