- 综合排序
- 最热优先
- 最新优先
- 来自专栏深度学习那些事儿
大大大大大模型部署方案抛砖引玉
模型有很多，比如效果开源最好的vicuna-13b和较早开始基于llama做实验的alpaca-13b，大家可以看： https://huggingface.co/spaces/HuggingFaceH4/ ，举几个例子： 对于3080显卡，10G显存，那么13B的INT4就很有性价比，精度比7B-FP16要高很多 对于3090显卡，24G显存，那么30B的INT4可以在单个3090显卡部署，精度更高 可以看下图 执行以下命令CUDA_VISIBLE_DEVICES=0 python llama.py ${MODEL_DIR} c4 --wbits 4 --groupsize 128 --load llama7b 大概的结论： FP16速度最快，因为INT4和INT8的量化没有优化好（理论上INT8和INT4比FP16要快不少），而INT4的triton优化明显比huggingface中INT8的实现要好，建议使用 我自己尝试跑了下速度要比第一个huggingface的实现要快20%，这个精度基于FP16，支持多卡，目前暂时未支持INT8和INT4。
2K30编辑于 2023-10-19 - 来自专栏腾讯高校合作
一个大大大大大数据比赛要来啦！
2017中国高校计算机大赛——大数据挑战赛开始报名啦！点击左下角阅读原文即可参与报名。 大数据 开放某人机验证产品采集的鼠标轨迹脱敏数据，为有志于从事计算机行业的大学生们提供实战平台，帮助大学生深入了解学习安全AI，更快成长为互联网产业的中坚力量。 大平台 教育部高等学校计算机类专业教学指导委员会、教育部高等学校软件工程专业教学指导委员会、教育部高等学校大学计算机课程教学指导委员会、全国高等学校计算机教育研究会联合主办；清华大学、腾讯安全平台部联合承办。 大福利 大赛奖金池共计19万，优胜者还可受邀参与
1K70发布于 2018-03-21 - 来自专栏阿凯的Excel
小小查找键、大大大乐趣
第一个需求：将空格填充为0 动作分解： 1、选中有数据区域 2、Ctrl+F弹出查找-替换对话框 3、选中替换，在查找内容什么都不填，在替换为输入“0” 4、单击全部替换 第二个需求：如何将单元格为0的替换为空
1.3K40发布于 2018-03-08 - 来自专栏腾讯乐享
ToB程序员……大大大不同？
秋风送爽，又到了收获的季节。从“WeEarth超级地球”传回的卫星数据来看，除了腾讯的办公楼，腾讯的B端客户在哪工作，哪里就可能“长”出穿着腾讯文化衫的程序猿（大雾， ） 真相是，确实有一波波的鹅厂程序员离开了传统的工位格子间，飞到了天南海北的客户现场撸码，短则三五天，长则一两个月。 他们有一个统一的tag，#腾讯ToB程序员# 今天，鹅厂做ToB的队伍日益壮大，很多ToB程序员正是从ToC程序员转型而来。 那么问题来了，在他们眼里，在鹅厂做ToB 和做ToC有哪些不同呢？接下来，欢迎收
1.9K32发布于 2020-10-30 - 来自专栏seo分享
徐大大seo:Elementor
4. 移动优化：Elementor支持移动设备优化，这意味着用户可以创建适合移动设备的页面，而不必担心页面在移动设备上的显示效果。 5. 4. 移动优化：Elementor支持移动设备优化，这意味着用户可以创建适合移动设备的页面，而不必担心页面在移动设备上的显示效果。 5.
87010编辑于 2023-03-15 - 来自专栏OneMoreThink的专栏
攻防靶场(41)：字典扫描就是要大大大 Pwned1
此时字典大小是4,612。 用更大的字典重新扫描，还是没什么收获。此时字典大小是81,628。 用超大的字典重新扫描，发现/hidden_text/目录。此时字典大小是207,628。
28000编辑于 2025-01-16 - 来自专栏李智的专栏
斯坦福CS231n - CNN for Visual Recognition（4）-lecture4反向传播
举个例子，如果x=4,y=−3x=4,y=−3，而f(x,y)=−12f(x,y)=−12，那么xx上的偏导∂f∂x=−3\frac{\partial f}{\partial x}=−3，这个变量xx增大一个很小的量 同理，因为∂f∂y=4\frac{\partial f}{\partial y}=4，如果将yy的值增加一个很小的量hh，则整个表达式变化4h4h。 例如，若x=4,y=2x=4,y=2，那么结果44，所以函数对于yy就不敏感，所以yy梯度是00，因为对于函数输出是没有效果的。 在反向传播时将递归地使用链式法则，算到加法门（是乘法门的输入）的时候，知道加法门的输出的梯度是−4-4。如果网络想要输出值更高，那么加法门的输出要更小（因为梯度−4-4）。 继续递归并对梯度使用链式法则，加法门拿到回传梯度，然后把这个梯度分别乘到每个输入值的局部梯度（就是让−4-4乘以xx和yy的局部梯度，xx和yy的局部梯度都是11，所以最终都是−4-4）。
95010发布于 2018-08-03 - 来自专栏量子位
中文「大大大大大」模型开源开放！从吟诗作画写代码到蛋白质预测全都有，源代码可编程API均奉上
鱼羊 发自 凹非寺 量子位 | 公众号 QbitAI 中文领域的“大大大大大”模型，开源开放了！ 一口气10+个大模型联手登场，能写诗、写作文、写代码，还能画画、做视频、看图说话。
1.2K30编辑于 2022-12-08 - 来自专栏seo分享
徐大大seo:Astra Pro
4.集成了许多插件：Astra Pro集成了许多流行的WordPress插件，包括WooCommerce、Elementor、Beaver Builder等。
65740编辑于 2023-03-15 - 来自专栏seo分享
徐大大seo:Astra Pro
4.集成了许多插件：Astra Pro集成了许多流行的WordPress插件，包括WooCommerce、Elementor、Beaver Builder等。
62120编辑于 2023-03-15 - 来自专栏【计网】Cisco
【斯坦福计网CS144】Lab4终结笔记
1.2 CS144实验室之Lab4 斯坦福大学的CS144课程中，Lab 4 是一个非常关键且引人入胜的实验。这个实验通常涵盖了网络传输控制协议（TCP）的实现。 在Lab 4中，学生们会被引导着从头开始实现一个简单的 TCP 协议栈。这包括建立起基本的连接、数据传输和连接终止的过程。 /libsponge/tcp_connection.cc 图5-2 文件内容_1 图5-3 文件内容_2 图5-4 文件内容_3 图5-5 文件内容_4 （3）输入命令”vim .. make 图5-8 编译结果 （5）输入命令” make check_lab4”对lab4进行检查，检查结果如图5-9所示。可以看到，所有的测试样例都通过。 make check_lab4 图5-9 check结果 2.4 实验体会 1 Lab4需要完成“the summit (TCP in full)”。
58410编辑于 2024-02-20 - 来自专栏seo分享
徐大大seo:谷歌SEO
4. 外部链接 外部链接是谷歌SEO的另一个重要方面。您需要确保您的网站获得高质量的外部链接。这些链接应该来自受信任的网站，并且与您的业务相关。
83021编辑于 2023-03-15 - 来自专栏Crossin的编程教室
python 图像处理：一福变五福
毕竟对于如今生活在大城市的人来说，集福领红包和空荡的地铁车厢或许已是最大的“年味”了。 既然是凑热闹，怎么能少得了我。前年过年我发过一篇：《一行代码扫出“敬业福”》，介绍的是 OCR 文字识别的使用。 今年再来对“福”字做文章，演示下如何用 python 的图像处理功能，把一幅“福”字图片转出 5 种不同的效果： ? 上面的效果分别用到了以下功能： 1、灰度福 这里没有选择直接将图片转出灰度图，因为这样会导致福字不明显。而是通过将红、绿、蓝三通道分离后，选择色差最大的红色通道。 img_i = np.asarray(img) img_i = 255 - img_i 4、膨胀福 这里其实是“图像腐蚀”操作（与“图像膨胀”操作相反）。 img_r = cv2.flip(img, -1) 完整代码可以在公众号（Crossin的编程教室）里回复关键字：五福 以上就是我送给大家的 5 个福。试过了，都能被扫出来。我已集齐 ? ?
1.2K20发布于 2019-03-06 - 来自专栏量子位
“大大震惊”一位CTO：GPT-4V自动驾驶五连测
编者按： GPT-4V的到来，给AI又带来了无限可能。近日，图森中国CTO王乃岩在知乎发表的《GPT-4V在自动驾驶中初探》引发了不少关注。在多项测试之后，他本人表示“大大震惊了我们”。 万众瞩目之下，今天GPT4终于推送了vision相关的功能。 今天下午抓紧和小伙伴一起测试了一下GPT对于图像感知的能力，虽有预期，但是还是大大震惊了我们。 Example4: 来一个搞笑的 只能说非常到位了，相比之下之前看上去无比困难的“有个人冲着你挥了挥手”这样的case就像小儿科一样，语义上的corner case可解。 总结 快速的一些尝试已经完全证明了GPT4V的强大与泛化性能，适当的prompt应当可以完全发挥出GPT4V的实力。 非常exciting，个人认为合理使用这样的大模型可以大大加快L4乃至L5自动驾驶的发展，然而是否LLM一定是要直接开车？尤其是端到端开车，仍然是一个值得商榷的问题。
41210编辑于 2023-10-18 - 来自专栏seo分享
徐大大seo:杭州谷歌SEO
4.社交媒体优化：包括网站在社交媒体上的曝光度、分享量等方面的优化，使网站在社交媒体上获得更多的关注和曝光。 杭州谷歌SEO的优势在于其专业性和技术水平。
1.1K40编辑于 2023-03-15 - 来自专栏机器之心
这位斯坦福PhD新生的论文被引数：接近4万
但仍让人始料未及的是，今年新生行列中出现了这样一个人，Google Scholar 统计显示，他的论文被引用数量竟已接近 4 万： 一个刚入学的新生，论文被引数比斯坦福很多助理教授还要高很多，这就不禁让人产生疑问 从斯坦福讲师到斯坦福博士生 看到这里，你也许会问：这水平真是来斯坦福读博而不是来教课的？ Pete Warden 还真的在斯坦福教着一门课。
81230编辑于 2022-03-29 - 来自专栏seo分享
徐大大seo:什么是泛解析？
我是徐大大seo，10多年的老SEO人，分享我这些年学习到的技术与心得，包括白帽黑帽SEO,Python开发,爬虫,web安全。真正的大师，永远保持一颗学徒的心（流量为"基"，一直探索！）
1.4K00编辑于 2022-05-22 - 来自专栏工业科技1
小小的平台，大大的作用
随着工业化进程的加快，工业设备的使用日益倍增，加上工业互联网发展迅速，各大企业运用互联网、大数据、物联网、云计算、人工智能等技术，工业设备智能维保逐渐成为行业焦点。由于设备种类繁多、数量庞大，长时间运行带来的不可预期故障对运营服务影响很大，如此大体量的设备设施维修无法仅依靠传统人工检修模式进行。新技术的发展和应用为提升管理手段创造了可能，因此需要利用智能维保平台和智能监测等技术支撑设施设备维保工作。
51530发布于 2021-08-27 - 来自专栏seo分享
徐大大seo:北京谷歌SEO
4.外部链接优化外部链接是指其他网站链接到本网站的链接，通过优化外部链接，可以提高网站在搜索引擎中的排名。在进行外部链接优化时，需要选择与网站内容相关的网站进行链接，并保证链接的质量高、数量适当。
53820编辑于 2023-03-15 - 来自专栏seo分享
徐大大seo:WordPress SEO优化教程
4. 优化你的内容 优化你的内容可以让你的网站更容易被搜索引擎收录和排名。你应该使用关键词来描述你的文章和页面，但不要过度使用关键词，否则会被搜索引擎认为是垃圾信息。
1K50编辑于 2023-03-15
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号