【先行者经验:Chimes AI执行长谢宗震】靠ChatGPT辅助,非技术人员更容易发想AI新点子

企业数位转型开始扩大导入新兴科技时,对非技术人员往往会面临很大的适应考验,他们不知道如何应用新科技、分析数据或解读BI报表来决策。AI新创Chimes AI执行长谢宗震从去年底开始,开始用ChatGPT协助自家企业顾客面对这些挑战。

可用ChatGPT产生AI提案计画书

有一家使用了Chimes AI建模与管理平台产品的企业,老板想要将AI扩大应用到其他部门,要求各部门提案。不过,非技术部门不熟悉AI技术,无法想像如何将AI应用於工作流程优化。

谢宗震参考自家过往AI导入案例,利用提示工程做法,让ChatGPT自动生成AI应用发展企画书。谢宗震说,这份企画书已经足以提供企业思考的大方向,之後只要稍做修改,就能成为具可行性的计画。目前可以利用ChatGPT生成AI应用场景的计画书、产生专案开发计画、建议专案资料盘点、模拟专案资料、补齐专案资料、提供解读等等不同专案阶段的参考资料或知识。

能学习ChatGPT如何解读BI报表

如何运用ChatGPT来辅助非技术人员,例如企业业务团队常需要参考BI报表来决策,不过,就算有BI报表,业务人员不一定能将报表内容直接转化为具体洞见或执行计画。谢宗震观察,对不谙资料科学的中阶主管而言,从BI报表上冰冷的数据找到延伸方向,并整理为合理易懂的解释,不是一件易事。这是一个ChatGPT能应用的场景。企业可以输入报表或各式图表给ChatGPT,让它生成出易懂的分析来作为报告参考。

谢宗震说明,AI可以帮忙从资料之间的关联性找出可能解释。举例来说,ChatGPT能快速观察出太阳能光电厂的发电量跟天气、气温、能见度等变数间的关联性,并输出易懂的文字结论,例如发电量与哪个变数关联性最强。

尽管ChatGPT是处理自然语言的AI,不过也有办法让它读取视觉化图表。使用者可以对ChatGPT描述图表资料结构,例如折线图XY轴,再将数据以CSV的格式提供给ChatGPT,它就能读懂非纯文字的图表。谢宗震也观察到,为了避免资料外泄等原因,企业实务上通常不会直接将所有数据输入ChatGPT,而是将部分数据或模拟数据提供给ChatGPT解释後,再参考它生成的解释方向,来解读实际数据。

ChatGPT参数及提示输入是成果精准度关键

如何善用提示工程来引导ChatGPT的生成时,谢宗震提到,对ChaGPT定义使用者角色的重要性。举例来说,在请ChatGPT发想技术应用企画时,可以指示ChatGPT扮演生产技术部门里面的一个品管人员,生成的企画细节就会更加贴近实务需求。甚至,若指示ChatGPT扮演经验丰富的数据科学家角色来解释BI报表,解读能力也会提升。

企业导入ChatGPT的另一个隐忧是生成结果的精确度。作为一个生成式AI,ChatGPT会不会输出与实务情况脱节的内容,例如在生成报告时,添加了现实中不存在的数据或细节等?谢宗震坦言,这种情况确实有可能发生,因此在ChatGPT API的参数设定及指令输入上,必须依照需求做出相对应的调整,才能获得足够精确的输出成果。

举例来说,在ChatGPT API中,提供了一个Temperature参数,决定生成结果的多样性,数字越高,多样性越大,也就越可能与现实脱节。因此在需要高精度和可重现性的应用场景中,可以将此参数降为0。不过,也有些应用场景反而需要ChatGPT生出更多元的结果,例如探索新兴技术应用可能时就需要调高。

虽然ChatGPT只能根据2021年9月之前的数据来生成内容,不过,谢宗震认为,参考2年前的网路资料虽无法让企业一跃成为业界最前线,但已经足以让企业不落於人後。他甚至表示,这种用ChatGPT生成新兴技术应用企画的做法,「是一般企业追赶顶尖企业最好的方法。」

资料模糊化技术将成降低资料外泄风险关键

对不少企业来说,使用ChatGPT这类工具的一大疑虑,是担心敏感资料外泄。谢宗震认为,首要做法是,企业内部要规范好数据控管机制,以避免员工不慎上传涉及个资隐私或营业机密的数据。接下来,则是妥善利用资料模糊化技术。

由於企业使用ChatGPT来进行企画书或报表解读时,通常只需要大方向的趋势解读,因此企业可以先模糊化数据,再输入数据给ChatGPT。这些方法包括将具体数字转化为百分比、在数据中加入一定程度的杂讯,或者以实际数据为基础,做出一份模拟数据。

不过,谢宗震认为,随着越来越多企业认同ChatGPT等AI工具的价值,未来资料模糊化技术也会更加重要。就算财力雄厚的大型企业能直接购买一套AI模型,部署到自家环境中,要做到这种程度的投资前,企业内部仍须先进行小型概念验证,建立企业对这类工具的信心,因此资料模糊化这种较简单的做法,对於大小企业来说都有其必要性。

 更多相关报导  …

Salesforce与OpenAI合作在Slack与CRM等工具整合ChatGPT

Salesforce推出客户关系管理专用的生成式人工智慧Einstein GPT,Einstein GPT整合了Salesforce原有的人工智慧模型、资料,以及OpenAI的生成式人工智慧模型ChatGPT,官方提到,由於Einstein GPT仅使用企业可用的资料,能够生成可靠的内容加速产出行销内容。另外,Salesforce还宣布在协作软体Slack整合ChatGPT,以提供对话摘要等功能。

Salesforce提到,Einstein GPT是第一个客户关系管理生成式人工智慧,能够协助行销人员生成个人化电子邮件,更快速且专业地回覆客户的问题。同时,Einstein GPT也能够产生针对性内容,提高行销活动的回应率,甚至自动替开发人员产生程式码。

Salesforce原本就已经使用自家开发的人工智慧技术Einstein AI,每天在Customer 360执行超过2,000亿次预测,现在Salesforce将自家Einstein AI,与OpenAI的ChatGPT对话模型相结合,使得用户能够以自然语言指示人工智慧执行自动化任务,并创建个人化内容。

包括销售、行销、客户关系和开发等Salesforce产品皆整合Einstein GPT,针对销售应用,Einstein GPT可自动完成销售相关任务,诸如编写电子邮件、安排会议等,而Einstein GPT也能根据过去案例笔记产生知识文章,并自动生成聊天回应内容,协助提供个人化且快速的客户服务。

Einstein GPT能动态生成个人化行销内容,还会在Slack Customer 360应用程式中提供客户分析,针对销售机会提供智慧摘要,并且提供新知识文章等客户服务。开发者也能获得Einstein GPT的协助,官方提到,Einstein GPT结合Salesforce研究院开发的大型语言模型,可生成程式码提升开发人员工作效能。

另外,Salesforce也宣布推出ChatGPT for Slack,藉由在Slack添加由OpenAI开发的ChatGPT,使得Slack能够替对话进行摘要,协助用户编写讯息草稿,或是加速使用者了解特定主题。目前ChatGPT for Slack仍在Beta测试中。…

DeepMind新AI模型能共写电影、剧场脚本

DeepMind

Google的AI业务部门DeepMind本周介绍最新AI语言模型Dramatron,可和使用者合作共同撰写电影或剧场脚本,还能创造人物和对话。

Dramatron为互动式共同创作AI工具,可和作者一起创作新故事,并加上故事标题、人物、地点描述和对话。它是由DeepMind研究人员和史丹佛大学科学家合作而成。

根据DeepMind介绍,Dramatron是利用现有预训练的大型语言模型(large language model,LLM)Chinchilla产生一致性的长篇文字,它可协助共同创作剧场或电影剧本。Dramatron使用阶层式方法生成故事,以便全篇文字之间有一致性。Dramatron使用上先输入剧本纲要,之後就能和人互动,产生角色、情节点、地点描述和对话。产生的剧本可提供素材,供作编纂、编辑和改写。

DeepMind的论文说明,Chinchilla拥有700亿个参数的神经网路,使用6亿多网页文件、数百万本书籍、数十亿则新闻报导及142万行GitHub程式码及600万维基百科文件训练而成。

Dramatron可被当作撰写工具及灵感来源,也能让作者任意地「玩」。之後DeepMind邀请15位剧作家、编辑和演员使用Dramatron测试及创作。其中加拿大公司Rapid Fire Theatre根据和AI模型共同创作的剧场脚本,实际搬上舞台表演获得正面回响。

图片来源/DeepMind

不过研究小组也表示,Dramatron产出的内文,可能包含用以训练模型的文字。解决方法之一是人类作者从成品中搜寻子字串(substring),以避免剽窃问题。此外,它可能重制训练文字的偏见和刻板印象,甚至产生具冒犯性的文字。避免方法是使用Google和第三方业者合作的免费机器学习Perspective API来评估成品文字的「有毒分数」,并根据分析过滤掉。

DeepMind也邀请开发人员加入Dramatron的贡献开发。…

AI趋势周报第199期:逢甲大学打造国产AI避震系统,更开发全球首款道路缺陷样本资料库

逢甲大学

重点新闻(0930~1006)

逢甲大学     电子避震系统     道路缺陷  

逢甲大学打造国产AI避震系统,更开发全球首款道路缺陷样本资料库

在国科会4年资助下,逢甲大学副教授林昱成团队打造出国产自驾车电子避震系统,结合AI道路缺陷感知系统和AI决策控制晶片系统,可即时辨识车前20公尺的6种道路缺陷(适用於车速100km/hr以下),让避震系统根据不同路况来动态调控,更通过ISO26311乘坐舒适性测试,满足乘车体验和车辆操作稳定性要求。该系统的出现,意味着台湾有能力自产车电尖端感知和控制技术,也代表国产技术融入车辆产业供应链。

进一步来说,为训练道路缺陷感知AI,团队收集了常见的6种道路缺陷影像作为训练资料,包括坑洞、人孔盖、减速坡、积水、伸缩缝、水坑,共89,723张照片,打造出全球首套道路缺陷样本资料库(TPDID),未来还能延伸应用至东南亚复杂的交通情况。团队也透露,未来也可透过道路缺陷感测,即时将缺陷资讯通报给道路养护单位,提高道路修补效率。

另一方面,团队开发出的强化学习决策控制系统,能根据道路缺陷侦测结果来调整避震系统。比如,当车辆行经坑洞或减速坡时,系统会动态调整避震器,来提高乘坐舒适性和悬吊耐久性。此外,这两套AI系统所搭配的硬体零组件皆为国产,如电磁阀可调阻尼驱动电路、空气弹簧驱动电路;这些系统也已导入Nissan系列车种。(详全文)

  DeepMind     矩阵乘法     演算法  

DeepMind新AI系统可找出更快的矩阵乘法新演算法

DeepMind打造一款AI系统AlphaTensor,以击败全球三大棋艺AI的AlphaZero为基础,可用来找出更有效率的矩阵乘法演算法。DeepMind认为,AlphaZero不只可用在游戏上,也能用来解决悬而未决的数学问题。

AlphaTensor是AlphaZero的延伸,AlphaZero是个完全未经训练的神经网路,经自我对战来进行强化学习,而奠基於此的AlphaTensor,一开始也未被灌输任何既有的矩阵乘法演算法,而是藉自我学习,来重新发现历史上各种快速的矩阵演算法,且最终超越人类,找到比现今更快的演算法。不只如此,DeepMind也用AlphaTensor来替特定的硬体寻找最佳演算法,像是Nvidia V100 GPU与Google TPU v2,而AlphaTensor也在同样的硬体上,在乘以更大矩阵的速度上比常用的演算法快了10%~20%。(详全文)

  IBM     边缘运算     装置端训练  

IBM联手MIT打造边缘运算新方法,在装置用新资料微调模型只需256KB记忆体

IBM与MIT发表一系列边缘运算轻量级技术,在装置端微调预训练模型只需256KB记忆体。团队表示,一般来说,小型IoT设备难以直接利用装置端感测器搜集的新资料,来更新模型;这包含两个问题:类神经网路量化图因混杂的单精度和缺乏正规化,而难以优化,另一个是硬体资源(如记忆体和算力)不足以用於反向运算。

为解决问题,团队先设计稀疏更新(Sparse Update)演算法,来跳过不重要的层与子张量梯度运算,再用自建的训练系统Tiny Training Engine来实作。该系统修剪了反向运算张量,来支援稀疏更新,并将执行时间的自动微分卸载到编译时间。团队表示,他们的框架可用於IoT装置(如SRAM只有256KB的微型控制器),来透过迁移学习执行视觉辨识任务,所使用的记忆体是现有框架的百分之一,但准确度与云端训练、部署在边缘的tinyML应用程式VWW一样。特别是,这款框架不仅能让IoT装置推论模型,还能让模型在装置端,根据新资料来微调,实现不间断的学习。(详全文)

  汉莎航空    Google       准点率  

汉莎航空运用深度学习预测瑞士白斯风提高航班准点率

汉莎航空与Google公开新一波合作成果,透过预测机场跑道的风速,来提高航班准点率,不只降低营运损失,也提升乘客体验。风的大小和风向对机场运作有重大影响,在瑞士有种白斯风(BISE),又冷又乾,会严重影响航班时刻、迫使飞机改道,甚至导致航班延误、取消。

这种状况在苏黎世机场特别严重,不只对汉莎航空造成数百万美元的损失,同时也会引发乘客不满。於是,汉莎航空和Google采用Meteoswiss模拟资料,也就是瑞士多个气象站过去5年来收集的气象测量值,以每10分钟的解析度,获得风向、速度、压力、温度和湿度等天气资料,以及气象站位置海拔高度等资讯。但因为白斯风并非直接可用的变数,因此团队设计跑道周围的顺风速度作为代理目标变数,当此数值高於特定阈值,就表示跑道会出现白斯风。

双方也在Google全托管机器学习平台Vertex AI建立专案,实验结果显示,新系统给出的预测,优於汉莎航空原有的启发式演算法,且随着预测的时间加长,出现了明显的效能差异,新系统能够获得更高的召回率和精确度。汉莎航空计画将这个预测白斯风实验性专案,整合到营运决策支援套件中,供苏黎世克洛滕机场营运控制中心使用。(详全文)

  文字转影片     Imagen Video     Phenaki  …