人工智能新闻_新闻人工智能技术作文800字_新闻人工智能2024

德联资本执行董事刘景媛表示,韩蒙博士带领的团队在AI安全领域技术积淀深厚,且已实现多行业、多场景的产品化落地。随着AI向智能体、具身智能、端侧部署等多维延伸,期待君同未来能够持续探索并应对更广泛的人工智能风险治理挑战。同时,GenTelShield模型和基准数据集的发布也体现了君同未来为推动人工智能安全治理体系建设以及领先技术落地的积极贡献。

关于君同

GenTel

君同未来致力于提供全面的人工智能(AI)风险治理产品及服务,通过全流程模型合规验证、全场景模型管理监控以及多维度模型安全防护,满足AI开发者和使用者对模型功能性、可靠性、合规性的要求,助力AI成为人类基础脑力劳动的可信替代。

随着生成式人工智能的爆发,在各类纷繁的技术给全球社会经济带来巨大机会和变革的同时,也同时引发了潜在风险和复杂挑战。通过评测发现模型的内在安全风险,再通过防护工具保障模型免受外部威胁,已成为人工智能风险治理的行业共识。

人工智能新闻_新闻人工智能2024_新闻人工智能技术作文800字

君同未来生态位——AI风险治理

君同未来创始团队长期专注于AI安全以及可信AI有关的研究。创始人及CEO韩蒙博士曾在美国高校获得终身教职,并于2021年回国创业。韩蒙博士已入选国家级人才计划和浙江省级人才计划,担任国家重点研发计划首席科学家(青年)并作为项目负责人承担了国家自然科学基金、浙江省及多个部委有关重大科研项目。

君同未来AI安全产品和服务包含模型合规验证、监控管理以及安全防护三个方面,支持文本、图像、视频、音频、表格、时间序列等多种模态的各类模型。在AI风险治理的核心能力上,其产品已覆盖400种以上评测和100种以上防御增强能力,构建了符合不同国家监管要求的千万级动态题库平台,且全面兼容OWASP、NIST、ATLAS等国际主流风险框架,在国内外具有显著优势。目前,公司的产品已服务于互联网、金融、教育、医疗及制造业等多个行业领域,并可为大模型在汽车、手机等端侧的智能化应用提供全面支撑。

人工智能新闻_新闻人工智能技术作文800字_新闻人工智能2024

君同未来提供端到端的人工智能风险治理服务

创始人韩蒙博士表示:“通过构建注入攻击风险体系、开源注入攻击检测模型以及开源测试基准数据,公司不仅助力大模型应用企业在应用过程中有效缓解LLM面临的攻击风险,也努力为开源社区在LLM安全治理领域的深入研究和应用拓展做积极贡献。”

人工智能新闻_新闻人工智能2024_新闻人工智能技术作文800字

END

新闻人工智能技术作文800字_人工智能新闻_新闻人工智能2024