刚刚过去的8月,百度WAVE SUMMIT 深度学习开发者大会上,重磅发布文心一言的五个原生插件:百度搜索、览卷文档(基于文档的交互)、E 言易图(数据洞察图表生成)、说图解画(基于图片的交互)、一镜流影(文字转视频)。
我们知道大模型的训练过程一般都需要比较长的时间,强如ChatGPT4用到的最新数据也只是21年的。但是一般案例中的问题都需要用到最新的数据,百度搜索以插件的形式为文心大模型提供了实时的数据。对于开发者来说,便可以将自身拥有的实效性很强的数据资源同样以插件的形式提供给文心大模型,例如股票数据、电影票房数据等。
一、文心一言Plugin实战
插件生态都来了,还是得动手实操一下!这里我们就试试使用文心一言插件从0到1进行一个简单的应用开发,实现一个【旅游攻略助手】,一起感受下官方原生插件的惊艳之处和AI原生应用的魅力之处!
开发准备工作
案例介绍: 在放假休闲期间,我们常常想要出去旅游,但又苦于没有优质的导游可以帮自己做旅游规划。
借助文心一言的能力,你只需要给出你希望出行的地点和游玩时间等信息,即可为你规划好路线,并分析出早中晚各自游玩的景点,一目了然!
安装官方SDK
目前支持 Python >= 3.7版本,官方文档地址:SDK安装及使用流程 - 千帆大模型平台 | 百度智能云文档
创建应用
登录百度智能云千帆控制台 ,创建应用。
创建应用后,获取API Key、Secret Key。
模型选择
百度智能云千帆大模型平台包含 ERNIE-Bot、 ERNIE-Bot-turbo、 BLOOMZ-7B、 Qianfan-BLOOMZ-7B-compresse、 Llama-2-7b-chat 等热门大模型,我们使用 ERNIE-Bot 进行应用开发即可。
模型参数配置
Temperature:1.00
TOP_P:0.80
上传数据库进行检索训练
这里我们提前准备了2组训练数据,直接创建即可。
主要代码如下:
第一步,导入模型,收集用户出游信息
Python import paddlehub as hub # 加载旅游攻略模型 strategy_model = hub.Module(name="tourism_strategy") # 加载景点推荐模型 recommend_model = hub.Module(name="tourism_recommendation") # 用户输入出行地点和游玩时间等 destination = input("请输入您希望出行的地点:") duration = input("请输入您计划游玩的天数:") # 使用旅游攻略模型规划路线 strategy_result = strategy_model.generate_strategy(destination, duration) |
第二步,使用大模型推荐生产旅游攻略
Python # 使用景点推荐模型推荐早中晚各自游玩的景点 time_spots = recommend_model.recommend_spots(strategy_result['time']) morning_spots = recommend_model.recommend_spots(strategy_result['morning']) afternoon_spots = recommend_model.recommend_spots(strategy_result['afternoon']) evening_spots = recommend_model.recommend_spots(strategy_result['evening']) food_spots = recommend_model.recommend_spots(strategy_result['food']) room_spots = recommend_model.recommend_spots(strategy_result['room']) # 输出结果 print("时间:") for spot in time_spots: print(spot) print("上午游玩景点:") for spot in morning_spots: print(spot) print("下午游玩景点:") for spot in afternoon_spots: print(spot) print("晚上游玩景点:") for spot in evening_spots: print(spot) print("特色美食:") for spot in food_spots: print(spot) print("住宿地点:") for spot in room_spots: print(spot) |
验证参数示例:
目标城市: 陕西西安。同行人数: 2。游玩时长: 1天1夜 去西安,2人,玩1天1夜。 我想去西安,帮我规划一下 |
测试效果:
怎么样,是不是特别方便快捷就可以利用百度提供的插件开发自己想要实现的应用!
依托于强大的框架和雄厚的算力池,千帆大模型自动帮开发者实现了高效率、高并发的模型推理支持。
也就是说,作为AI开发者,你可以将你的绝大部分注意力完全聚焦在应用创意层面,无需过多担心底层的技术优化和算力问题了!
总结
倒计时4天了!10月17日,一年一度的百度世界大会即将开始。作为一名开发者,特别是如今大模型发展地如火如荼,看到大会议程上李彦宏将在现场做主题为「手把手教你做AI原生应用」的演讲,我太期待百度这次能给我们带来什么“新花样”了,我也是第一时间预约了直播,希望能够了解到有关文心大模型的最新技术,第一时间了解AI技术的发展和创新。毕竟谁也不想错过“大模型”这个有史以来最大平台革命!
10月17日的百度世界,既是百度交出的一张AI答卷,更是一场代表AI行业风向标的科技大会,届时,相信无论是技术人员、从业者还是AI爱好者,都将在这里获得想要的答案。同时,作为一名IT从业者,期待百度世界大会后更多AI原生应用涌现……