ListenAI 发表于 2024-8-30 11:37

【附实操视频】聆思CSK6大模型开发板接入国内主流大模型(星火大模型、文心一言、豆...

多模态交互离不开硬件载体,近期有不少开发者在研究聆思CSK6大模型开发板除了使用出厂示例自带的星火大模型,能不能接入文心一言、通义千问、豆包、智谱glm、kimi等国内的大模型,但由于各家接口和数据格式不一样,调试验证会浪费很多时间。因此本篇以聆思CSK6大模型开发板接入为例,分享具体的接入步骤和接入模板,大家按照文档步骤使用模板操作即可。
https://wdcdn.qpic.cn/MTY4ODg0OTk2NTM5NzUxOA_482912_RFDn8V6Lr8_TJ0vX_1713521142?w=1200&h=575&type=image/png当前SDK方案是把开发套件当做输入端,文字或图片内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。https://www.bilibili.com/video/BV1tLaSeZEWQ/?spm_id_from=pageDriver&vd_source=a82080dfa59efd275cd6281d6a9ad157
页: [1]
查看完整版本: 【附实操视频】聆思CSK6大模型开发板接入国内主流大模型(星火大模型、文心一言、豆...