展会信息港展会大全

ChatGPT社会化的技术原理及未来场景应用
来源:互联网   发布日期:2023-02-20 15:01:49   浏览:6481次  

导读:2月17日,产研院(青岛)举办贤话星期五第47期活动,产研院(青岛)投资管理部副部长刘元磊作题为ChatGPT社会化的技术原理及未来场景应用的分享。生态企业同仁、产研院青岛团队参与沙龙交流。 本期分享嘉宾结合自身使用体验和案例从ChatGPT简介、社会化的技术原...

2月17日,产研院(青岛)举办“贤话星期五”第47期活动,产研院(青岛)投资管理部副部长刘元磊作题为“ChatGPT社会化的技术原理及未来场景应用”的分享。生态企业同仁、产研院青岛团队参与沙龙交流。

ChatGPT社会化的技术原理及未来场景应用

本期分享嘉宾结合自身使用体验和案例从ChatGPT简介、社会化的技术原理和未来应用三个方面展开分享。

首先对ChatGPT进行了简要介绍。GPT以Transformer为基础模型,使用预训练技术得到通用的文本模型。目前已经公布论文的有文本预训练GPT-1、GPT-2、GPT-3,以及图像预训练iGPT。ChatGPT是在GPT-4之前发布的预热模型,有时候也被叫做GPT3.5。ChatGPT和InstructGPT(对话机器人)在模型结构,训练方式上都完全一致,即都使用了指示学习(Instruction Learning)和人工反馈的强化学习(Reinforcement Learning from Human Feedback,RLHF)来指导模型的训练,仅在采集数据的方式上有所差异。

其次阐释了ChatGPT社会化的技术原理。一是通过对InstructGPT(对话机器人)的介绍阐述了ChatGPT的技术原理;二是介绍了开发者通过监督学习和强化学习的组合方法对ChatGPT进行优化。其中“人类反馈强化学习”(RLHF)的训练方法,通过有监督的强化、模拟人类偏好及近端策略优化(PPO)三个步骤在训练中使用人类反馈,以最小化无益、失真或偏见的方向完成输出。

分享嘉宾还就ChatGPT的未来应用同与会人员进行了互动交流。

ChatGPT社会化的技术原理及未来场景应用

微科普

ChatGPT:GPT的全称是Generative Pre-Trained Transformer。ChatGPT是以Transformer为基础模型,使用预训练技术得到通用的对话文本模型。

Transformer:是一种机器学习神经网络模型,它通过跟踪序列数据中的关系(如这句话中的单词)来学习上下文。

山东产业技术研究院(青岛)

山东产业技术研究院(青岛)是山东产研院在青岛设立的总部基地,是实行企业化管理、市场化运营的新型研发机构。产研院青岛在青岛市和崂山区两级党委政府大力支持下,以体制机制创新和商业成功为指引,以科技项目培育和产业生态构建为突破口,在智能制造、信息与智能融合、计算医学、绿色发展等领域布局创新平台和产业项目。


赞助本站

相关内容
AiLab云推荐
推荐内容
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港