- 综合排序
- 最热优先
- 最新优先
- 来自专栏深度学习那些事儿
大大大大大模型部署方案抛砖引玉
借着热点，简单聊聊大模型的部署方案，作为一个只搞过CV部署的算法工程师，在最近LLM逐渐改变生活的大背景下，猛然意识到LLM部署也是很重要的。大模型很火，而且确实有用（很多垂类场景可以针对去训练），并且和Vision结合的大模型也逐渐多了起来。所以怎么部署大模型是一个超级重要的工程问题，很多公司也在紧锣密鼓的搞着。 目前效果最好讨论最多的开源实现就是LLAMA，所以我这里讨论的也是基于LLAMA的魔改部署。 基于LLAMA的finetune模型有很多，比如效果开源最好的vicuna-13b和较早开始基于llama做实验的alpaca-13b，大家可以看：
2K30编辑于 2023-10-19 - 来自专栏悟道
2-4 快速乘法 模板
适用于不让用/ * 的情况实现某些结果 ! /** * 快速乘法 * * @param a 乘数 * @param b 被乘数 * @return 积 */ public static long quickMulti(long a, long b) { long result = 0; while (b > 0) { if ((b & 1) == 1) {
57010发布于 2021-06-01 - 来自专栏腾讯高校合作
一个大大大大大数据比赛要来啦！
2017中国高校计算机大赛——大数据挑战赛开始报名啦！点击左下角阅读原文即可参与报名。 大数据 开放某人机验证产品采集的鼠标轨迹脱敏数据，为有志于从事计算机行业的大学生们提供实战平台，帮助大学生深入了解学习安全AI，更快成长为互联网产业的中坚力量。 大平台 教育部高等学校计算机类专业教学指导委员会、教育部高等学校软件工程专业教学指导委员会、教育部高等学校大学计算机课程教学指导委员会、全国高等学校计算机教育研究会联合主办；清华大学、腾讯安全平台部联合承办。 大福利 大赛奖金池共计19万，优胜者还可受邀参与
1K70发布于 2018-03-21 - 来自专栏阿凯的Excel
小小查找键、大大大乐趣
你是不是在高速路口堵车的时候看到本文章呢？ 不要问我在干嘛！ 今天和大家愉快的分享的是查找键！！ 神马？查找键还需要分享？ 查找键其实分两类，一种是Ctrl+F弹出来的！ 如下： 第二种是查找定位
1.3K40发布于 2018-03-08 - 来自专栏刷题笔记
2-4 另类堆栈 (20 分)
本文链接：https://blog.csdn.net/shiliang97/article/details/101049523 2-4 另类堆栈 (20 分) 在栈的顺序存储实现中，另有一种方法是将Top
89830发布于 2019-11-08 - 来自专栏Hank’s Blog
2-4 R语言基础 列表
> l1 <- list("a",2,10L,3+4i,TRUE) #每个元素没有名字 > l1 [[1]] [1] "a"
65620发布于 2020-09-16 - 来自专栏Deep learning进阶路
2-4 线性表之双链表
2-4 线性表之双链表 双向链表除了相当于在单链表的基础上，每个结点多了一个指针域prior，用于存储其直接前驱的地址。同时保留有next，用于存储其直接后继的地址。 ?
67320发布于 2019-07-02 - 来自专栏IT技术圈
练习2-4 温度转换 (5分)
本题要求编写程序，计算华氏温度150°F对应的摄氏温度。计算公式：C=5×(F−32)/9，式中：C表示摄氏温度，F表示华氏温度，输出数据要求为整型。
1.2K10发布于 2021-02-24 - 来自专栏腾讯乐享
ToB程序员……大大大不同？
秋风送爽，又到了收获的季节。从“WeEarth超级地球”传回的卫星数据来看，除了腾讯的办公楼，腾讯的B端客户在哪工作，哪里就可能“长”出穿着腾讯文化衫的程序猿（大雾， ） 真相是，确实有一波波的鹅厂程序员离开了传统的工位格子间，飞到了天南海北的客户现场撸码，短则三五天，长则一两个月。 他们有一个统一的tag，#腾讯ToB程序员# 今天，鹅厂做ToB的队伍日益壮大，很多ToB程序员正是从ToC程序员转型而来。 那么问题来了，在他们眼里，在鹅厂做ToB 和做ToC有哪些不同呢？接下来，欢迎收
1.9K32发布于 2020-10-30 - 来自专栏OneMoreThink的专栏
攻防靶场(41)：字典扫描就是要大大大 Pwned1
靶机启动后，没有提供IP地址。由于Kali和靶机在同一个C段，可以扫描ARP协议获取靶机IP地址。
28000编辑于 2025-01-16 - 来自专栏seo分享
徐大大seo:Elementor
Elementor是一款流行的WordPress页面构建器，它可以帮助用户轻松地创建自定义的网站页面。Elementor的主要特点是它的易用性和灵活性，使得用户可以快速地创建各种类型的页面，包括主页、产品页面、博客页面等等。
87010编辑于 2023-03-15 - 来自专栏量子位
中文「大大大大大」模型开源开放！从吟诗作画写代码到蛋白质预测全都有，源代码可编程API均奉上
鱼羊 发自 凹非寺 量子位 | 公众号 QbitAI 中文领域的“大大大大大”模型，开源开放了！ 一口气10+个大模型联手登场，能写诗、写作文、写代码，还能画画、做视频、看图说话。
1.2K30编辑于 2022-12-08 - 来自专栏seo分享
徐大大seo:Astra Pro
Astra Pro是一款功能强大的WordPress主题，它提供了许多高级功能和定制选项，使您可以轻松地创建一个专业的网站。Astra Pro的设计非常简洁，易于使用，同时也非常灵活，可以满足各种不同类型的网站需求。
62120编辑于 2023-03-15 - 来自专栏seo分享
徐大大seo:Astra Pro
Astra Pro是一款功能强大的WordPress主题，它提供了许多高级功能和定制选项，使您可以轻松地创建一个专业的网站。Astra Pro的设计非常简洁，易于使用，同时也非常灵活，可以满足各种不同类型的网站需求。
65740编辑于 2023-03-15 - 来自专栏新智元
LLM吞吐量提高2-4倍，模型越大效果越好！UC伯克利、斯坦福等开源高效内存管理机制PagedAttention
评估结果表明，vLLM可以将常用的LLM吞吐量提高了2-4倍 ，在延迟水平上与最先进的系统（如FasterTransformer和Orca）相当，并且在更长序列、更大模型和更复杂的解码算法时，提升更明显
1.8K20编辑于 2023-09-27 - 来自专栏seo分享
徐大大seo:谷歌SEO
谷歌SEO是指优化网站以在谷歌搜索引擎中获得更高排名的过程。谷歌是全球最大的搜索引擎之一，每天有数十亿的搜索请求。因此，谷歌SEO对于任何企业或个人网站都非常重要。在本文中，我们将探讨谷歌SEO的一些关键方面。
83021编辑于 2023-03-15 - 来自专栏AI机器学习与深度学习算法
学习分类 2-4 感知机权重向量的更新
下面直接给出权重向量的更新表达式，然后通过可视化的方式来直观的展示权重向量的更新。
1.4K40编辑于 2022-11-08 - 来自专栏育种数据分析之放飞自我
笔记 | GWAS 操作流程2-4：哈温平衡检验
「什么是哈温平衡？」 ❝哈迪-温伯格(Hardy-Weinberg)法则 哈迪-温伯格（Hardy-Weinberg）法则是群体遗传中最重要的原理，它解释了繁殖如何影响群体的基因和基因型频率。这个法则是用Hardy,G.H (英国数学家) 和Weinberg，W.（德国医生）两位学者的姓来命名的，他们于同一年（1908年）各自发现了这一法则。他们提出在一个不发生突变、迁移和选择的无限大的随机交配的群体中，基因频率和基因型频率将逐代保持不变。---百度百科 ❞ 「怎么做哈温平衡检验？」 ❝「卡方适合性检验！」
5.8K21发布于 2020-04-27 - 来自专栏Crossin的编程教室
python 图像处理：一福变五福
某宝一年一度的集五福（shua hou）活动更是成为每年的必备活动。虽然到最后每人大概也就分个两块钱，但作为一个全民话题，大多数人还是愿意凑凑热闹。 毕竟对于如今生活在大城市的人来说，集福领红包和空荡的地铁车厢或许已是最大的“年味”了。 既然是凑热闹，怎么能少得了我。前年过年我发过一篇：《一行代码扫出“敬业福”》，介绍的是 OCR 文字识别的使用。 今年再来对“福”字做文章，演示下如何用 python 的图像处理功能，把一幅“福”字图片转出 5 种不同的效果： ? 上面的效果分别用到了以下功能： 1、灰度福 这里没有选择直接将图片转出灰度图，因为这样会导致福字不明显。而是通过将红、绿、蓝三通道分离后，选择色差最大的红色通道。 img_r = cv2.flip(img, -1) 完整代码可以在公众号（Crossin的编程教室）里回复关键字：五福 以上就是我送给大家的 5 个福。试过了，都能被扫出来。我已集齐 ? ?
1.2K20发布于 2019-03-06 - 来自专栏seo分享
徐大大seo:杭州谷歌SEO
杭州谷歌SEO是指在杭州地区进行谷歌搜索引擎优化的一种行为。SEO是指通过优化网站结构、内容和外部链接等方式，提高网站在搜索引擎中的排名，从而获得更多的流量和曝光度。而谷歌是全球最大的搜索引擎之一，其在中国的市场份额虽然不如百度，但在全球范围内的影响力却是不可忽视的。
1.1K40编辑于 2023-03-15
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号