2023年12月17-18日，中国中文信息学会2023学术年会在北京隆重举行。大会邀请了5位业界著名专家和4位领域内优秀青年学者作特邀报告，同时还邀请了7位国内资深学者进行了主题为“大模型与安全”的专题研讨。清华大学张钹院士的报告题目是“生成式人工智能时代的机遇与挑战”。该报告分析生成式人工智能时代的特点，从生成式模型具有的强大的生成能力、迁移能力和交互能力，阐述对社会可能造成的影响，以及为我们提供的机遇，同时从生成式模型所存在的问题，分析我们所面临的挑战。
清华大学张钹院士作大会特邀报告广州大学方滨兴院士的报告题目是“让AI靶场助力于数据开发能力评测”，该报告提到，构建以算力网为承载，以数据资源大循环为目标的数据可信流通基础设施势在必行。该基础设施的建设应该遵循五大基本原则：数据不动程序动、数据可用不可见、分享价值不分享数据、保留所有权释放使用权、算力网互联形成统一数据访问域。该基础设施成败的关键之一在于能否方便快速的找到数据，能否在数据安全前提下充分挖掘数据价值。该报告提出一种生成式委托计算模式-AI靶场，其中一项关键技术是：找数和SQL生成智能体，其在通用LLM大模型基础上，具备短期和长期记忆存储和检索业务知识，具备规划和工具使用进一步验证和完善结果的能力。同时，利用AI靶场，还可以对SQL生成程序的能力进行测评。
广州大学方滨兴院士作大会特邀报告百度CTO王海峰博士的报告题目是“文心一言”，该报告主要介绍了文心一言是新一代知识增强大语言模型，基于更强平台、更优数据和更好算法训练，从万亿数据和千亿知识中融合学习，突破知识内化与外用技术，在多维数据、多阶段对齐、可再生训练、知识点增强、智能体机制等方面进一步创新突破，理解、生成、逻辑和记忆四项人工智能基础能力显著提升。大语言模型的产业落地，可以采用集约化生产，平台化应用的模式，为千行百业提供大模型服务，加快产业智能化升级。
香港中文大学（深圳）李海洲教授的报告题目是“语言与智能的思考”，该报告主要回顾了人工智能、自然语言处理和大模型的起源和发展历程，将人类智能和人工智能做类比，讨论大模型的潜力和局限，同时探讨了“如何提升智能体的规划能力”。
小米语音首席科学家Dr.Daniel Povey的报告题目是“From LLMs to Artificial General Intelligence”，该报告介绍了一些关于AGI的观点，提了一个可能的分模块和计划分发的AGI架构。Dr.Daniel认为在Scaling up之前，应该花更多的努力在资源相对受限的情景，这可以加速基本算法的迭代。
小米语音首席科学家Dr.Daniel Povey作大会特邀报告本次年会还邀请了4位领域内优秀青年学者作特邀报告。清华大学刘知远副教授的报告题目是“大模型群体智能：迎接智能的第二次涌现”，报告首先简介人工智能的发展历程，阐明大模型技术的历史地位；然后，报告介绍大模型的智能涌现等特性，探讨大模型在群体智能方面的发展趋势和技术动态。
复旦大学邱锡鹏教授的报告题目是“大语言模型的科学挑战”，该报告指出尽管大语言模型在人工智能多个领域显示出极强的通用性，但是大语言模型依然存在很多科学挑战。针对这一问题，报告总结了大语言模型面临的十大主要挑战，包括模型架构、长序列处理、推理、幻觉、可解释性、多模态融合、评估等问题，并对未来的研究进行展望。
百川智能谢剑博士的报告题目是“大模型构建新“冯诺依曼”智能计算架构技术思考与实践”，该报告首先介绍OpenAI和Google的技术路径以及他们对AGI的展望。此外，谢剑博士分享了百川关于LLM为核心的智能冯诺依曼架构的愿景，通过Long Context技术为基础实现更大的“内存”，RAG等增强技术做“外存”。最后，报告还分享了对通过强化学习等方法实现模型持续进化的看法。
清华大学东昱晓博士的报告题目是“ChatGLM Agent：大模型智能体实践与探索”，该报告指出预训练大模型在意图感知、指令跟随、目标规划等方面展现出强大的泛化能力，为自主智能体的研究和应用提供了通用模型基座。接着，分享了GLM团队在ChatGLM Agent研发过程的思考与探索，如AgentBench、AgentTuning、CogAgent等。
12月17日下午，大会进行了主题为“大模型与安全”的专题研讨，由鹏城实验室贾焰教授主持。该专题讨论邀请了6位领域专家参与，分别是：哈尔滨工业大学刘挺教授、广州大学齐佳音教授、中国科学院信息工程研究所李凤华研究员、奇安信张勇博士、中国科学技术大学俞能海教授以及鹏城实验室顾钊铨研究员。各位专家围绕议题，热烈探讨大模型源自于自然语言理解，并正在与其他技术深度融合，逐渐演化为成为一个改变人们学习、工作和生活的划时代技术，与会专家各抒已见，从科学、治理、行动、技术等层面对大模型的安全问题展开了探讨和建议。同时，大模型也面临安全问题挑战，例如，滥用问题、隐私保护和知识产权保护问题，价值观及偏见问题，网络攻击问题等，对国家安全、经济安全、军事安全产生了重要影响。
“大模型与安全”专题研讨
