GPT-4V 学会自动操纵电脑怎么下载比特派钱包,这一天终于照旧到来了。
只需要给 GPT-4V 接入鼠标和键盘,它就能凭证浏览器界面上网:
比特派私钥甚而还能快速摸明晰“播放音乐”的播放器网站和按钮,给我方来一段 music:
是不是有点细想极恐了?
这是一个 MIT 本科生小哥整出来的新活,名叫 GPT-4V-Act。
只需要几个绵薄的用具,GPT-4V 就能学会阻抑你的键盘和鼠标,用浏览器上网发帖、买东西甚而是玩游戏。
如果用到的用具出 bug 了,GPT-4V 甚而还能意志到、并试图责罚它。
来望望这是何如作念到的。
GPT-4V-Act,本体上是一个基于 Web 浏览器的 AI 多模态助手(Chromium Copilot)。
它不错像东谈主类同样用鼠标、键盘和屏幕“稽查”网页界面,并通过网页中的交互按键进行下一步操作。
要已矣这种后果,除了 GPT-4V 除外,还用到了三个用具。
一个是 UI 界面,不错让 GPT-4V“看见”网页截图,也能让用户与 GPT-4V 发生交互。
这么,GPT-4V 就能将每一步驱动想路王人通过对话框的阵势反应出来,用户来决定是否要不竭让它操作。
另一个是 Set-of-Mark Prompting(SoM)用具怎么下载比特派钱包,让 GPT-4V 学会交互的一款用具。
这个用具由微软发明,规划是更好地对 GPT-4V 进行辅导词工程。
比较让 GPT-4V 径直“看图语言”,这个用具不错将图片重要细节拆分红不同的部分,并进行编号,让 GPT-4V 有的放矢:
关于网页端亦然如斯,Set-of-Mark Prompting 用雷同的方式让 GPT-4V 知谈从网页浏览器的哪个部分找谜底,并进行交互。
终末,还需要用到一个自动标注器(JS DOM auto-labeler),不错将网页端通盘能交互的按键标注出来,让 GPT-4V 决定要按哪个。
一套历程下来,GPT-4V 不仅能准确判断图片上的哪些内容恰当需求,还能准确找到交互按键,并学会“自动上网”。
这是个大技俩,现在还只已矣了部分功能,包括点击、打字交互、自动标注等。
接下来,还有其他的一些功能要已矣,举例试试 AI 打标器(现在网页端的交互照旧通过通过 JS 接口得知那处能交互,不是 AI 识别的)、以及辅导用户输入详备信息等。
此外,作家也提到,现阶段 GPT-4V-Act 用法上还有一些需要把稳的方位。
举例,GPT-4V-Act 可能会被网页掀开后劈头盖脸的弹窗小告白给“整懵了”,然后出现交互 bug。
又举例,现在这种玩法可能会违犯 OpenAI 的产物使用轨则:
是以用的时刻也要低调少量(doge)
这个技俩在网上发出后,诱惑了不少东谈主的围不雅。
像是小哥用到的微软 Set-of-Mark Prompting 用具的作家,就发现了这个技俩:
还有网友提到,甚而不错用来让 AI 我方读取考证码。
这个在 SoM 技俩中提到过,GPT-4V 是能得胜解读考证码的(是以以后可能还真不知谈是东谈主照旧机器在上网
)。
与此同期,也有网友仍是在设想桌面流自动化(desktop automation)的操作了。
对此作家酬报称:
冯火火双色球:上期预测中二等奖擒81万,预测数字彩累计中奖3960万!此前曾3次预测命中双色球头奖,分别中奖1102万、601万以及919万,实力有目共睹,值得继续关注![查看今日推荐]
比赛时间:2023-9-29 01:00
不外现在 GPT-4V 照旧要收费的,有莫得其他的已矣要津?
作家也示意,现在还莫得,但照实可能会尝试 Fuyu-8B 大致 LLaVAR 这么的开源模子。
免费的自动化桌面流 AI 助手,不错期待一波了。
参考归拢:
本文来自微信公众号:量子位 (ID:QbitAI),作家:萧箫
告白声明:文内含有的对外跳转归拢(包括不限于超归拢、二维码、口令等阵势)怎么下载比特派钱包,用于传递更多信息,从简甄选时分,落幕仅供参考,IT之家通盘著述均包含本声明。
声明:新浪网独家稿件,未经授权回绝转载。 -->