9月20日,“UOS AI场景公社”走进杭州,与现场用户分享了统信软件在AI+OS领域的技术探索和应用实践。在ChatGPT成为现象级事件的2023年,国产操作系统企业统信软件发布了统信UOS AI,与国际主流操作系统厂商同步迈入人工智能+操作系统时代。
统信软件认为,AI为操作系统的赋能主要体现在三个方面:
首先是人机交互的变化。历史上,每一次交互的革命都诞生了世界第一的公司:从命令行到图形键鼠交互,于1985 年发布的 Windows 1.0 造就了世界市值第一的微软; 从图形键鼠到图形触控交互,于2007年发布的 iPhone 1.0 造就了世界市值第一的苹果。AI时代,人机交互将从步骤驱动的点点点,变成以用户需求驱动的自动化。对比以往的交互方式,AI交互将以更简洁的界面、更低的学习成本,完成用户需求的一步触达。
其次是应用生态的升级。传统的操作系统中,应用是服务的载体。开发者通过App来为用户提供服务,操作系统则为App提供运行环境。AI时代,服务载体从App变成了智能体、插件和模型,而操作系统作为生态的载体,扩展为系统AI助手,成为全场景入口,通过智能体、插件和模型的交互,实现跨服务联动。
第三是更好地为开发赋能。传统操作系统向下链接CPU、外设板卡等硬件,向上为应用软件提供开发套件。AI时代,AIOS则一方面链接CPU、GPU、NPU、AIPC等硬件,另一方面链接云端和本地模型,为应用生态提供AI能力和AI开发工具。
自2023年9月UOS AI正式推出以来,已在这三个方面均取得突破性进展,覆盖90%主流开源大模型与AI框架,在deepin开源操作系统和统信UOS桌面操作系统中深度赋能。
UOS AI桌面智能助手已经初具“智能终端”雏形,目前提供个人知识助手、玩机助手等数个智能体,用户也可以个性化地自行添加智能体;支持语音、文本、图片等多模态输入输出;同时还可以随心切换云端和本地模型,目前UOS AI已兼容了5个主流大模型,同时在今年8月推出了本地模型UOS LM,实现UOS AI离线运行,摆脱网络依赖,强化数据安全。
应用生态方面,UOS AI已支持自然语言命令调用20余个操作系统设置能力、40余个使用场景,已适配60余款应用;芯片层支持国内主流CPU芯片和英伟达、摩尔线程等国内外主流GPU芯片;大模型层开放接口,支持接入所有OpenAI接口格式的大模型,用户可根据自身需求,自行适配专属模型。
开发赋能方面,统信软件推出了UOS AI API,是国内第一个系统级AI应用开发框架,为AI应用开发提供系统级的AI接口。通过统一接口,应用软件无需配置即可获得热门模型的AI能力,实现文本聊天、图形处理、语音识别、函数调用等;同时支持端侧AI能力调用。工具方面,拥有自研的集成开发环境deepin-IDE,除了包含IDE常用功能,还与智谱AI联合,支持AI编程。
生态是操作系统最宽广的“护城河”。目前,统信UOS软硬件适配数已超500万,是业内首个取得该成就的操作系统厂商,然而与国际主流操作系统厂商仍存在差距。而AI时代的到来,将对操作系统生态进行重塑,进而为国产操作系统生态建设创造了弯道超车的可能。
通过在传统操作系统上构建AI能力,UOS AI在跨架构、跨模型、跨应用方面做了大量工作。
针对跨架构问题,在UOS AI框架中提供了屏蔽硬件特性的端侧模型加速框架,该框架可以在不同的架构下编译成库,提供不同的指令集加速方案。系统可以根据用户的硬件环境选择适合自己的部署框架,让大模型运行在最佳的状态下。
针对跨大模型问题,在UOS AI框架中提供了端侧模型管理方案,可以遍历本地已有的模型列表,选择运行模型,暴露模型输入输出端口。用户也可以基于ollama技术,将其它模型加载进系统里运行起来,而且在UOS AI框架中也支持OpenAI接口,从而提供了更好的模型扩展性。
针对跨应用问题,跨应用的难点在于需要对系统、模型与应用同时有深入的了解,然后抽象出模型能力与应用功能,再设计接口将其无缝对接起来。UOS AI 团队在模型侧进行了广泛的技术调研,首先对系统自身功能与自研应用改造,试点使用 AI 功能,达到一定成熟度之后,再对有类似功能的第三方应用提供接口,使能其智能特性,从而达成了当前跨应用智能的成果。
如今,统信软件正将AI能力变成桌面操作系统的基础服务,统信UOS也成为唯一与国际主流操作系统在AI产品理念、技术路线齐头并进的中国操作系统。据了解,今年年底UOS AI还将迎来重磅升级,带来更惊艳的AI成果。