欢迎来智东西
登录
免费注册
我的订阅
关注我们
智东西
车东西
芯东西
智猩猩
吴恩达:ChatGPT不会倒写单词
2023-06-05
量子位
7
智东西6月5日消息,据量子位报道,吴恩达最新开课指出ChatGPT不会反转单词。比如让它反转下lollipop这个词,输出是pilollol,完全混乱。听课网友在Reddit上发帖后,帖子热度火速冲到6k。
出现这种现象的原因在于token。大模型采用token来处理文本,以大大降低内存和时间复杂度,但将单词token化存在一个问题,会使模型很难学习到有意义的输入表示,不能理解单词的含义。在处理单词反转任务时,大模型可能只是将每个token翻转过来,而不是倒序排列单词的每个字母。
ChatGPT