首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏人工智能

    从“词元”到“符元”:Token 中文名背后的 AI 底层认知之争

    随后,《人民日报》发文《专家解读token中文名为何定为“词元”》,对这一命名从专业角度进行了系统阐释。文中提到,“token”一词源于古英语tācen,意为“符号”或“标记”。 在语言模型中,token是文本经过切分或字节级编码后得到的最小离散单元,既可以表现为词、子词、词缀或字符等不同形式。模型正是通过对token序列的建模,展现出一定的智能能力。 在现代计算体系中,Token真正的结构本体是“离散符号单元”,而非单一模态的语言单位。 相比之下,「符元」直接对齐了跨模态计算的符号本体,它定义的不是Token的“过去”,而是Token的“真相”。 五、本体的回归:Token本质上是“符号”,而非“词”文章观点(通用解释):Token是语言模型中用于处理文本的最小单位。

    19310编辑于 2026-04-09
  • 来自专栏刷题笔记

    7-9 人以群分 (25 分)

    本文链接:https://blog.csdn.net/shiliang97/article/details/99688626 7-9 人以群分 (25 分) 社交网络中我们给每个人定义了一个“活跃度”

    73820发布于 2019-11-08
  • 来自专栏yuyy.info技术专栏

    【笔记】Operator课程(7-9)

    Indexer缓存k8s资源对象,并提供便捷的方式查询。例如获取某个namespace下的所有资源

    36620编辑于 2023-04-12
  • 来自专栏森破笔记

    解决git status中文名乱码

    git-config - Get and set repository or global options

    80710发布于 2020-04-10
  • 来自专栏刷题笔记

    7-9 最长对称子串

    本文链接:https://blog.csdn.net/shiliang97/article/details/96307903 7-9 最长对称子串 对给定的字符串,本题要求你输出最长对称子串的长度。

    76130发布于 2019-11-08
  • 来自专栏sktj

    Django 下载文件返回中文名

    Django下载中文名文件: from django.utils.http import urlquote from django.http import HttpResponse content =

    61220编辑于 2022-05-14
  • 来自专栏后端开发从入门到入魔

    7-9 JAVA-水仙花数

    水仙花数是指一个N位正整数(7≥N≥3),它的每个位上的数字的N次幂之和等于它本身。例如:153=13+53+33。 要求编写程序,计算所有N位水仙花数。

    40210编辑于 2024-03-01
  • 来自专栏arebirth重生者的IT之路

    java 实现文件下载中文名不显示

    需要将指定字符串的编码转换成浏览器里面的ISO-8859-1编码 String name = new String(name.getBtes("utf-8"),"ISO-8859-1"); 示例: response.setContentType("application/octet-stream"); response.setHeader("content-disposition", "attachement;filename=" + new String(fileInfo.getFileName().ge

    70610发布于 2020-06-19
  • 来自专栏架构师进阶

    Java文件下载中文名不显示&乱码

    实际开发中遇到了中文名不显示的问题,一开始以为是后台代码的原因,网上查了一些资料,原来是Header中只支持ASCII,传输的文件名必须是ASCII。为什么Header只支持ASCII呢?。

    1.6K30发布于 2019-08-08
  • 来自专栏刷题笔记

    【未完成】7-9 目录树 (30 分)

    本文链接:https://blog.csdn.net/shiliang97/article/details/102727548 7-9 目录树 (30 分) 在ZIP归档文件中,保留着所有压缩文件和目录的相对路径和名称

    71110发布于 2019-11-07
  • 来自专栏AI机器学习与深度学习算法

    机器学习入门 7-9 人脸识别与特征脸

    本系列是《玩转机器学习教程》一个整理的视频笔记。本章的最后一个小节介绍PCA在人脸识别领域的一个特殊的应用,也就是所谓的特征脸。本小节会介绍什么是特征脸,并通过可视化的方式直观的感受特征脸。

    1.4K20发布于 2019-11-23
  • 来自专栏GiantPandaCV

    解析 Token to Token Vision Transformer

    最后看下T2T,通过Token to Token结构(下文会讲),它在浅层的时候也能建模出结构信息,同时也避免了极值的出现。 Token To Token结构 ? 而T2T为了捕捉局部信息,它将所有的token通过reshape操作,恢复成二维,然后利用一个unfold一个划窗操作,属于一个窗口的tokens,会连接成一个更长的token,然后送入到Transformer 这样会逐渐减少token的数量,但随之而来token的长度会增加很多(因为多个tokens连接在一个token),因此后续模型也降低了维度数目,以平衡计算量。 整体架构 T2T架构如上图所示,先经过2次Tokens to Token操作,最后给token加入用于图像分类的cls token,并给上位置编码(position embedding),送入到Backbone 结构对比 代码解读 Token Transformer class Token_transformer(nn.Module): def __init__(self, dim, in_dim,

    8K10发布于 2021-03-11
  • 来自专栏全栈程序员必看

    小米 token(token在哪里获取)

    小米设备token获取&HomeAssistant安装部署 小米智能设备token获取 miIO-discovery获取token与控制 app直接token获取 DB获取token 开源智能家居平台HomeAssistant 在使用这个局域网控制协议之前需要获取到设备token,接下来介绍小米设备获取token的一些方法。 :’,tok) 运行python3.5 miio_test.py,获取小米Wi-Fi插座token 执行控制脚本,输入插座的ip和token两个参数就可以看到现在插座的状态,在这两个参数的基础上添加 接下来还有一种方法可以直接从app获取token。以小米绿米网关为例,首先下载米家app,将绿米网关配置入网后,点击网关设备。接下来步骤如下组图,最后的密码即为网关的token。 目前绿米的这种设计模式是最方便用户的,而且设备的所有者还可以选择是否开放局域网控制以及刷新控制token的有效性,个人还是很希望小米的其他设备同样开放app侧获取设备token,因为毕竟获取需要搭建复杂的环境以及调试代码

    10K10编辑于 2022-07-29
  • 来自专栏yuyy.info技术专栏

    《代码整洁之道》笔记(7-9章节)

    多个条件分支记录错误信息,可以封装进一个方法,在记录异常信息的地方抛出异常,并给出相应信息。在该方法外部捕获,记录异常信息。异常处理和正常业务流程隔离。

    55810编辑于 2022-06-28
  • 来自专栏全栈程序员必看

    token身份认证机制(token怎么获取)

    这个token 我不保存,当小F把这个token 给我发过来的时候,我再用同样的HMAC-SHA256 算法和同样的密钥,对数据再计算一次签名, 和token 中的签名做个比较, 如果相同, 我就知道小 客户端储存 token, 并且每次请求都会附带它。 服务端验证 token 并返回数据。 每一次请求都需要TokenToken 应该在 HTTP的头部发送从而保证了 Http 请求无状态。 校验成功则返回请求数据,校验失败则返回错误码 当我们在程序中认证了信息并取得 token 之后,我们便能通过这个 token 做许多的事情。 使用 token 完美解决了此问题。 (2)安全性 请求中发送 token 而不是 cookie,这能够防止 CSRF(跨站请求伪造) 攻击。 我们也不一定需要等到token自动失效,token有撤回的操作,通过 token revocataion可以使一个特定的 token 或是一组有相同认证的 token 无效。

    7K10编辑于 2022-07-29
  • 来自专栏全栈程序员必看

    无效的token怎么解决_登录token

    大家好,又见面了,我是你们的朋友全栈君 解决无效token的方法 在调用API接口时遇到了无效token的问题,网上搜了一大圈还以为是token时效的问题,最后发现是给需要授权的 API , 必须在请求头中使用Authorization 字段提供 token 令牌。 // 在最后必须return return config }) 然后在请求头中可以发现Authorization的值还是Null,原因就是当你发送的发出的是登录请求,在登录期间服务器没有给你token ,如果登录之后调用其他接口再去监听这次请求的话就会发现Authorization的值不在是null了,而是登录后的token。 根据授权(Authorization)的解释,之所以要这么做的原因就是要给token授权访问api接口的权限。 版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。

    4.4K40编辑于 2022-09-30
  • 来自专栏陈琛的Redis文章

    Token验证

    唠嗑结束了,我们得来学习新知识,今天写的是如何解决登录问题及token验证。 解决方案(Token) 流程 使用token验证来解决,那token验证是咋样的一个流程呢? 3.后台有一个默认的拦截器,在接收到前端的请求时,会先将前端的token值取出,并且和redis中的token值进行对比。 token如何产生 下图是一个完整的token值,我们可以看到他有两个点号,也就是将一个长字符串分割为三份。 ? 这三部分组成一个token的字符串。 部分代码块 下图为第二部分,token中应该存入的业务信息。 ?

    2.6K21发布于 2020-06-12
  • 来自专栏VRPinea

    3A级国产VR游戏《Reboant》(中文名《源震》)首曝

    近日,国产3A级VR游戏《Reboant》(中文名《源震》)曝光了其首部预告片。该游戏采用了先进的虚幻4引擎进行开发,从本次公布的CG预告视频中就不难看出,这是一款可以被称作3A级别的VR大作。

    1.8K50发布于 2018-05-15
  • 来自专栏全栈程序员必看

    token实现验证登录(token如何使用)

    1.场景还原 可能还有很多小伙伴对token概念朦朦胧胧,今天笔者以项目中的用户登录的token验证需求跟大家讲讲其中的来龙去脉,希望能够理清大伙的思路。 index.html; ②然后复制index.html的地址在IE浏览器地址栏上,这时普遍网站都会使访问界面直接返回到login.html 只有登录了才可以继续浏览,保证了用户的信息安全性,这个需求就得用到token 3.实现方案 ①token生成方法 /** * Created by zhangxing on 2017/6/12. */ public class Token { //随机数发生器 public static String genetateToken(){ String token = System.currentTimeMillis()+"";//获得毫秒数加随机数 MessageDigest md = MessageDigest.getInstance("md5"); byte[] md5 = md.digest(token.getBytes

    4.3K10编辑于 2022-07-29
  • 来自专栏ReganYue's Blog

    【PTA】7-9 递归实现逆序输出整数 (15point(s))

    本题目要求读入1个正整数n,然后编写递归函数reverse(int n)实现将该正整数逆序输出。

    1.4K10发布于 2021-09-16
领券