生成式人工智慧正在成為資訊化、數位化、智慧型化的新技術基礎，特別是以大語言模型為代表的生成式模型具有很強的知識編碼和儲存能力、文字和**理解和生成能力，以及複雜任務的推理能力，被認為是可能實現通用人工智慧的技術路線之一。 並有望成為推動新一輪科技變革和經濟發展的重要技術，對科學和社會產生深遠影響。
當前，生成式人工智慧正處於快速變革和更新迭代的關鍵時期，面臨智慧型湧現的基本理論機制不明確、計算成本高、生成內容安全性亟待提高、自動評估難度大等挑戰。 通過布局生成式人工智慧的基礎理論創新和關鍵技術突破，推動系統化、原創性的基礎研究，從預訓練資料治理、對齊策略、知識增強等不同層面提公升模型全週期安全性，促進生成式人工智慧技術的發展和應用，提公升國家戰略地位和國際競爭力具有重要意義。
1. 科學目標
本專案探索大模型的智慧型湧現機制，提高其處理複雜任務的能力，著力解決生成內容中存在的安全性和可信性問題，探索大模型的知識融合和創新應用，提公升使用者體驗，推動新技術的發展。
2. 資助研究方向
面向生成式人工智慧的前沿科學方向和國家重大戰略需求，針對當前存在的技術瓶頸和挑戰，從“理論機理、架構設計、計算效率、安全對準、評估方法、典型應用”六個層面開展研究，聚焦高效可信模型的基礎理論和關鍵技術。 本專案擬資助以下研究方向：
（1）生成模型智慧型湧現機理研究
針對生成式人工智慧中的智慧型湧現、情境習、指令微調和思路等能力，設計了有效的分析工具來探索其數學機理，並在此基礎上進一步提公升了模型的泛化、多步推理和複雜任務分解能力。
（2）面向生成模型的新型高效神經網路架構研究
為了解決生成式人工智慧中Transformer架構的複雜性，本文研究了高效模型架構和跨模態統一架構，優化了自注意力等主要模組，提高了長序列和多模態場景下的模型處理能力和效率，探索了非Transformer高效架構和可重組模組化架構等新的架構設計方法。
（3）大模型高效訓練與推理方法研究
本文研究了各種尺度大型模型（特別是在低算力資源分配，或引數超過100億或1000億的模型）的通用高效訓練推理方法，提出了一種適應國產軟硬體的低通訊、高併發的分布式訓練演算法，提高了模型在資源不足條件下的推理效率， 並探索模型雲邊的協同推理機制，從而保證效能和響應速度。
（4）大模型值與安全對齊策略研究
本文研究了一種符合人類價值偏好的可持續、高度泛化、強對抗性的大模型對齊技術，以實現安全倫理與認知推理能力的對齊和超越，提高大模型應用的無害性和有效性，增強大模型安全倫理價值對齊演算法訓練的高穩定性和應用可靠性。
（5）生成模型自動評估方法研究
為解決模型生成內容評價難的問題，研究了一種生成內容的多維度自動評價方法，從事實準確性、有用性、邏輯性、安全性無害性、指令合規能力、長文件處理能力等維度構建了評價標準及對應的評價資料集。
（6）生成式人工智慧的行業與專業模型研究
為了解決生成式人工智慧技術在金融、教育、醫療、科學等領域的應用挑戰，我們研究了領域預訓練和領域指令微調方法，構建了融合領域知識的增強模型，探索了突破性的生成式人工智慧應用。
3. 資助計畫
擬資助專案6個，資助強度50萬元。 資助期限為1年，研究期限應為申請表中的“2024年3月1日-2024年2月28日”。
四、申請要求及注意事項
（一）申請資格
1.有承擔基礎研究專案的經驗;
2.具有高階專業技術職務（職稱）。
博士後研究人員、正在攻讀研究生學位的人員、沒有工作單位或者單位不是支撐單位的，不得申請申請。
（2） 關於限制適用的規定
1.該特殊專案不包括在所承擔的申請和專案總數範圍內。
2.申請者在同一年內只能申請乙個研究專案。
（三）申請注意事項
1.特殊專案無紙化申請
申請申請時間為 2024 年 1 月 18 日至 2024 年 1 月 22 日下午 4 點。
2.申請人須知：
1）申請人在填寫申請表前，應認真閱讀本專項指南和《2024年國家自然科學**專案指南》的相關內容，不符合專案指南及相關要求的申報專案將不予受理。
2）本專項旨在聚焦核心科學問題，集中國內優勢研究團隊開展研究，成為專項課題組。申報單位應根據專案指南中公布的專案擬解決的具體科學問題和擬資助的研究方向，制定專案名稱、科學目標、研究內容、重點科學問題、技術路線和相應的研究經費。
3）如申請人登入科普網路資訊系統，無系統賬號，請向依託單位管理聯絡人申請開戶），並按照撰寫提綱及相關要求撰寫申請書。
4）申請書選擇“專項”作為資助類別，子類別描述選擇“科研專案”作為“研究專案”，備註說明選擇“科學部綜合研究專案”（申請**1應符合擬資助研究方向要求，選擇資訊科學部F02、F06項申請**。 以上不準確或未被選中的專案將不予受理。
5）請按照《專項專案大綱-研究專案申請書撰寫》填寫申請表。請在申請正文開頭註明“生成式人工智慧基礎研究：xxx（填寫擬資助的6個研究方向之一）”。
申報應突出有限目標和重點突破口，明確對實現專案總體科學目標和解決核心科學問題的貢獻。
如申請人承擔了與本專案相關的其他科技專案，則應在申請主體的“研究依據和工作條件”部分討論申請專案與其他相關專案的區別和聯絡。
6）申請人應嚴格按照《國家自然科學**資助專案資金管理辦法》的有關規定和《國家自然科學**專案預算表編制說明》的具體要求，按照“目標相關性、 政策一致性和經濟合理性”。
3.依託單位的注意事項
1）依託單位對申請人提交的申請材料的真實性、完整性、合規性進行審查;在編制預算時審查申請人的目標、政策一致性和經濟合理性的相關性。
2）單位的電子申請表和附件材料應在規定的專案申報截止日期前通過資訊系統逐一確認並提交，無需提交紙質申請。專案獲批後，申請表的紙質簽名和蓋章頁應裝訂在“資助專案計畫”的末尾，並一併提交。 簽名蓋章的資訊應與電子申請書嚴格一致。
3）2024年未上傳《2024年國家自然科學**專案申請承諾書》（以下簡稱《承諾書》）的，須在《承諾書》經法定代表人簽字並加蓋支援單位公章後，將電子掃瞄件上傳至資訊系統（本年度只需上傳一次）。依託單位在完成上述承諾程式後方可提出申請。
4）自專案申請截止時間後24小時內，依託單位應通過資訊系統**提交單位專案申報清單。名單提交後，自然科學委員會即可收到專案申請材料。
4.這種特殊的諮詢方式
國家自然科學委員會資訊科學二司.
通訊作者： 吳國正， 王志恆， 謝國. 聯絡**：
（四）其他注意事項
1.為實現專案的總體科學目標，受資助專案的負責人在專案實施過程中應注意與專案其他專案的相互支援關係。
2.為加強專案間的學術交流，專案將成立專門的專案管理協調小組，不定期組織相關領域的學術研討會。 資助專案負責人必須參加上述學術交流活動，認真開展學術交流。
國家自然科學委員會.