首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏数据派THU

    10个Pandas的另类数据处理技巧

    来源:DeepHub IMBA本文约2000字,建议阅读5分钟本文介绍了10个Pandas的常用技巧。 本文所整理的技巧与以前整理过10个Pandas的常用技巧不同,你可能并不会经常的使用它,但是有时候当你遇到一些非常棘手的问题时,这些技巧可以帮你快速解决一些不常见的问题。 Swifter import pandas as pd import swifter def target_function(row): return row * 10 def traditional_way import pandas as pd from pandarallel import pandarallel def target_function(row): return row * 10 category", axis=1) %timeit sklearn_mlb(df.copy()) #35.1 ms ± 1.31 ms per loop (mean ± std. dev. of 7 runs, 10

    1.6K40编辑于 2023-04-18
  • 来自专栏华章科技

    10个最佳的大数据处理编程语言

    数据处理中,在规模和复杂性之间往往会有一个权衡,于是Python成为了一种折中方案。 IPython notebook和NumPy可以用作轻便工作的一种暂存器,而Python可以作为中等规模数据处理的强大工具。丰富的数据社区,也是Python的优势,因为可以提供了大量的工具包和功能。 Hadoop 和 Hive 一群基于Java的工具被开发出来以满足数据处理的巨大需求。Hadoop作为首选的基于Java的框架用于批处理数据已经点燃了大家的热情。 END 版权声明: 转载文章均来自公开网络,仅供学习使用,不会用于任何商业用途,如果出处有误或侵犯到原作者权益,请与我们联系删除或授权事宜,联系邮箱:holly0801@163.com。

    54920发布于 2018-08-15
  • 来自专栏PPV课数据科学社区

    10个最佳的大数据处理编程语言

    数据处理中,在规模和复杂性之间往往会有一个权衡,于是Python成为了一种折中方案。 IPython notebook和NumPy可以用作轻便工作的一种暂存器,而Python可以作为中等规模数据处理的强大工具。丰富的数据社区,也是Python的优势,因为可以提供了大量的工具包和功能。 hadoop 和 Hive 一群基于Java的工具被开发出来以满足数据处理的巨大需求。Hadoop作为首选的基于Java的框架用于批处理数据已经点燃了大家的热情。

    800100发布于 2018-04-24
  • 来自专栏7号代码

    Android网络与数据存储——网络编程数据处理网络请求,解析xml,解析Json)

    手机的优势是携带方便,可以随时打开,而且手机通常总是处于联网状态的,所以网络支持对于手机很重要。而且Java的网络编程完全适用于Android网络编程。 一.网络请求 ---- 1.URL 在真正学习网络请求之前有必要了解一下什么是URL,URL的英文全拼是Uniform Resource Locator,翻译过来为统一资源定位器,大概意思就是URL是指向互联网资源的指针 2.Http网络请求 Android中的Http网络请求有两种方式: HttpURLConnection HttpClient(已不推荐使用) 既然HttpClient已被弃用,那就用HttpURLConnection 到目前为止,还不算请求完成,因为这里用到了网络,要想获取网络上的数据,该应用必须有请求网络的权限,在AndroidManifest.xml中加入网络权限即可。 四.网络状态处理 ---- 网络状态处理:可以判断是否连接网络,还可以区分移动网络流量还是WiFi网络流量 ConnectivityManager NetworkInfo 五.扩展 ---- 下载电影、

    1.8K30发布于 2018-09-28
  • 来自专栏Java学习网

    10EB量级的基因大数据处理技术

    10EB量级的基因大数据处理技术 很荣幸在这里跟大家分享大家以前很少接触到的领域的大数据情况。其实生命科学的大数据还处在比较初始的阶段,否则国家也不会现在才开始提出精准医学这样的概念。 另外一个例子,我们眼睛的分辨率大概是5.7千万像素,人的眼睛到这么高的分辨率,但人的大脑还能实时处理这些图片,以每秒25帧的数据处理,大脑的数据能力是非常强的。 跟神奇的是,大家不要以为社交网络跟身体没关系,其实社交网络跟我们内在基因也是有一定的关系的,但随着研究的发展这种关系可能会越来越强。 这就记录了我们日常生活所有的习惯,比如说你吃米饭,米饭在你身体里怎么消化、怎么吸收,怎么转化成糖源,所有这个过程都是通过基因网络来描述的,我们现在也只有28万个网络,要比我们想象的少很多,当然这个数据库还是要不断地积累才能说清楚身体是怎么样的行使功能的 还有癌症,大部分的癌症像现在的乳腺癌10%-15%跟基因有关,所以女性同胞们确实是可以通过检测你相关的乳腺癌基因来提早预防乳腺癌或者卵巢癌的发生,还有直肠癌和肺癌,肺癌10%和你的基因有关。

    93350发布于 2018-02-27
  • 来自专栏有趣的django

    10.socket网络编程

    True: 7 conn, addr = server.accept() #阻塞 等待连接 8 print("new conn:",addr) 9 while True: 10 cmd.encode("utf-8")) #发送命令给server端 9 cmd_res_size = client.recv(1024) #接受server端发过来的命令结果信息长度 10 6 while True: 7 conn, addr = server.accept() 8 print("new conn:",addr) 9 while True: 10 6 while True: 7 conn, addr = server.accept() 8 print("new conn:",addr) 9 while True: 10 7 cmd = input(">>:").strip() 8 if len(cmd) == 0: continue 9 if cmd.startswith("get"): 10

    1.1K70发布于 2018-04-11
  • 来自专栏从零开始学 Web 前端

    10 - JavaSE之网络编程

    网络编程 网络通信协议分层思想 为什么要分层呢? ---- 参考模型 OSI七层模型 物理层、数据链路层、网络层、传输层、会话层、表示层、应用层 TCP/IP参考模型 应用层、传输层(TCP/UDP层)、网络层(IP层)、数据链路层、物理层 我们今天要讲的主要是传输层 在TCP/IP协议中,IP层主要负责网络主机的定位,数据传输的路由,由IP地址可以唯一确定Internet上的一台主机。 而TCP层则提供面向应用的可靠的或非可靠的数据传输机制,这是网络编程的主要对象,一般不需要关心IP层是如何处理数据的。 可靠的传输是要付出代价的,对数据内容正确性的检验必然占用计算机的处理时间和网络的带宽。因此TCP传输的效率不如UDP高。

    49240发布于 2018-08-31
  • 来自专栏后端开发技术

    DPDK 高性能网络数据处理:原理、配置与实践

    一、背景网络数据包的处理一般是由内核网络协议栈完成。但是,对于要极高吞吐量和低延迟的应用,内核的上下文切换、中断处理以及数据拷贝等开销会成为性能瓶颈。 DPDK的核心思想是把网络数据处理从内核空间转移到用户空间。DPDK接管网卡(NIC),绕过内核,直接从网卡接收原始数据包。应用程序自行实现协议栈的解析和封装逻辑。 一个完整的UDP数据包在网络传输中是分层封装的。从最外层到内层:(1)以太网头:属于数据链路层,共14字节。目的MAC地址:6字节,标识数据包的接收方物理地址。 四、Windowe下配置静态IP表Windows环境下,出于测试或特定网络配置需求,要手动添加静态ARP(AddressResolutionProtocol)条目。需要管理员权限才可以操作。 主要是为了确认0x13对应的具体网络适配器名称netshiishowin示例结果如下:IdxMetMTU状态名称---------------------------------------------

    1.1K11编辑于 2025-09-03
  • 来自专栏挖掘大数据

    最受欢迎的10个大数据处理编程语言

    数据处理中,在规模和复杂性之间往往会有一个权衡,于是Python成为了一种折中方案。 IPython notebook和NumPy可以用作轻便工作的一种暂存器,而Python可以作为中等规模数据处理的强大工具。丰富的数据社区,也是Python的优势,因为可以提供了大量的工具包和功能。 hadoop 和 Hive 一群基于Java的工具被开发出来以满足数据处理的巨大需求。Hadoop作为首选的基于Java的框架用于批处理数据已经点燃了大家的热情。

    3.8K100发布于 2017-12-29
  • 来自专栏FreeBuf

    网络安全这10

    10年前,智能手机还没有广泛普及,Windows 7才刚刚发布,而网络安全更是一个小众的圈子,远非如今媒体记者笔下的常客。 从一个孤岛到一个自行其道的小世界。 网络安全这10年,风雨有过,辉煌有过,曾谷底呆过,也曾见高楼起。一群白帽子,从独行者,侠客,到归于企业麾下或是走出创业的一条路,他们为网络世界的安全而战。 一批网络安全企业,从0到1,见证网络安全走向合规和产业化,而穿插其中的,是这10年来一个个或许你还依稀记得的安全事件…… 2020年,网络安全再启程之际,笔者却想和你,再走一遍这10年。 可以说,这一年,网络安全领域面临的威胁多种多样。 10年归0,2020年网络安全再启程!回顾20世纪的第2个十年,会发现,网络安全的一个个变革,似乎早就在10年间一个个看似普通的日子里埋下了伏笔。 那现在的我们,抽根烟,可以如常地谈起APT,网络战,说起5G的网还行,最近哪个公司又搞出了几亿数据泄露……尽管我们无法预测新的一个10年具体会发生什么,但是,从眼前出发,我们能知道: 大数据发展下,隐私数据安全与合规依然会是网络安全的热门

    1K20发布于 2020-02-20
  • 来自专栏林德熙的博客

    win10 uwp 网络编程

    上面传输的头,Head=Head+length 中的第二个Head,包含 传输者id,当前传输是传输的消息最后一段还是中间,当前传输 是服务器第消息

    63110编辑于 2022-08-09
  • 来自专栏iOS面试

    iOS 面试策略之系统框架-网络、推送与数据处理

    如果说移动时代的前身是什么,我想一个可能的答案就是网络时代。网络的兴起,让所有设备相连成为了可能,也催生了电商、社交、搜索等多个领域的商业巨头。 而移动时代,则是网络时代的必然延伸,它代表着更便捷、更广阔、更深入的连接。 [1240] 在这个背景之下,我们所开发的 App 或多或少会与网络相连。 通过实现它可以实例化任意网络传输任务,诸如请求、上传、下载任务。 具体的流程图如下: [image] 数据处理 9.iOS 开发中如何实现编码和解码? 10.谈谈 iOS 开发中数据持久化的方案 关键词: #plist #Preference #NSKeyedArchiver #CoreData 数据持久化就是将数据保存在硬盘中,这样无论是断网还是重启

    2.4K01发布于 2021-05-15
  • 来自专栏学习之路

    【Linux网络#10】:Https协议原理

    在整个传输过程中,只有在用户层数据是明文的,而网络中的传输数据始终处于加密状态。 HTTPS 也是一个应用层协议. 只是 在 HTTP 协议的基础上引入了一个加密层. 加密方式的定义? 二、HTTPS 工作方案 既然要保证数据安全, 就需要进行 “加密”,网络传输中不再直接传输明文了, 而是加密之后的 “密文”. 由于中间的网络设备没有私钥, 即使截获了数据, 也无法还原出内部的原文, 也就无法获取到对称密钥(真的吗?) 这对密钥对就是用来在网络通信中进行明文加密以及数字签名的。 常见问题 为什么摘要内容在网络传输的时候一定要加密形成签名? MD 5 特性 定长: 不论输入字符串的长度如何,生成的 MD5 值都是固定长度(16 字节或 32 字节)。

    56210编辑于 2025-06-02
  • 来自专栏不温卜火

    快速入门网络爬虫系列 Chapter09 | JSON数据处理

    1、获取JSON响应 通过网络库requests,网络爬虫获取响应,并使用JSON格式展示数据 import requests import urllib url = 'http://httpbin.org json.load():文件中JSON字符串转换为Python json.dumps():Python对象序列化为JSON对象 json.dump():Python对象序列化为JSON对象,并写入文件 把网络爬虫获取的响应转换成 Application Programming Interface,API) API不同的应用提供方便友好的接口 开发者用不同的语言结构编写程序,通过API获取数据,实现不同程序间的信息共享 API在网络爬虫中的使用场景

    1.2K20发布于 2020-10-28
  • 来自专栏好奇心Log

    Python气象数据处理与绘图:常见的10种图像滤波方法

    dst = cv2.fastNlMeansDenoisingColored(img, None, 10, 10, 7, 21) b1, g1, r1 = cv2.split(dst) NonLocalMeans cv2.merge([bandpass_filter_r, bandpass_filter_g, bandpass_filter_b]) plt.imshow(bandpass_filter) 10 , fontsize=15) plt.title('lowpass_filter', fontsize=15) plt.imshow(lowpass_filter) plt.subplot(4,3,10

    2.6K30发布于 2021-08-26
  • 来自专栏全栈程序员必看

    Solaris 10网络服务

    作者:田逸( sery@163.com) <开放系统世界> 2006年10期 多年前,sun 微系统公司提出“网络就是计算机”这一著名的口号,从而使得网络的概念逐渐为世人所理解并加速了信息网络化的步伐 今天,信息网络已经无处不在,用性能卓越的solaris 10 来提供各种各样的网络服务,是顺理成章的事情。 solaris 10作为主流的unix操作系统,支持几乎所有流行的网络服务。我们在安装solaris 10的时候,就会把诸如apache、nfs等等这样的网络服务默认安装到服务器中。 设置和修改网络参数 相对于linux而言,solaris 的网络设置或修改要麻烦一些。 现在一切都准备就绪,接着我们就来向大家介绍几个solaris 10主要的网络服务。 web 服务apache 到目前为止,web服务仍然是internet上数量最大的网路服务。

    1.1K20编辑于 2022-07-04
  • 来自专栏Tom

    初识Cifar10之vgg网络

    上一篇文章我们介绍了cifar10数据集 初识Cifar10 vgg是由牛津大学cv组和谷歌deepmind一起研究出来的深度卷积神经网络,我们通常说的vgg模型是指vgg-16(13层卷积层+3层全连接层 kernel_size=2, stride=2) # batchsize *512*2*2 -->batchsize*512*4 self.fc=nn.Linear(512*4, 10 使用连续的小卷积核代替大的卷积核,网络的深度更深,并且对边缘进行填充,卷积的过程并不会降低图像尺寸。 全连接转卷积(测试阶段)。 在网络测试阶段将训练阶段的三个全连接替换为三个卷积,使得测试得到的全卷积网络因为没有全连接的限制,因而可以接收任意宽或高维度的输入。 可以看到代码中我们有4层卷积层,4层池化层组成。 vgg16的网络结构图;

    82410编辑于 2022-06-08
  • 来自专栏云云众生s

    StarlingX 10:支持边缘双栈网络

    译自:StarlingX 10: Support for Dual-Stack Networking at the Edge 作者:Steven J Vaughan-Nichols StarlingX StarlingX 一直以来都是一个优秀的边缘计算云平台,但它在核心网络中也同样有所帮助。 StarlingX,这个开源分布式云平台,已正式发布其备受期待的10.0版本,标志着其发展的一个重要里程碑。 StarlingX 10.0 的一个突出特点是其对 IPv4/IPv6 双栈网络的支持。 虽然 StarlingX 长期以来一直支持 IPv6 网络,但直到现在它还不支持双网络栈。 由于 StarlingX 经常被电信公司使用,而它们的 数据中心通常仍然运行 IPv4,而它们的 5G 移动网络依赖于 IPv6,因此这种新的双栈支持是一个宝贵的补充。

    47900编辑于 2025-03-01
  • 来自专栏生信喵实验柴

    数据处理

    +A:行首 ctrl+E:行尾 4、转义字符 \n:换行符 \t:制表符 5、for 循环 Linux:for i in {1..10};do echo $i;done; R:for (i in 1:10 ){print (i)} for i in range(1,10):print (i); 6、head,tail Linux: head,tail 命令,默认 10 行 R:head(),tail()函数 10、cat Linux,R,python 中都是查看文件,将文件内容在终端输出。 11、sort 排序,可以按照数值大小,也可以按照 ascii 码排序。 is.vector(x) is.numeric(x) is.character(x) as.character(x) letters as.numeric(letters) mtcars[1:10,1 :10] mtcars$cyl is.numeric(mtcars$cyl) as.factor(mtcars$cyl) plot(as.numeric(mtcars$cyl)) plot

    1.9K10编辑于 2022-10-25
  • 来自专栏TA码字

    k8s集群网络(10)-flannel vxlan overlay网络setup

    对于flannel overlay网络有vxlan 方式和udp方式,这里我们介绍vxlan 方式的setup。对于vxlan 是一种overlay网路技术,意在利用在三层网络之上构建二层网络。 对于二层网络一般我们采用vlan技术来隔离,不过vlan在数据包里总共4个字节,有12bit用来标识不同的二层网络,这样总共可以有4000多个vlan。 而vxlan header有8个字节,有24bit用来标识不同的二层网络,这样总共是1600多万个vxlan。 修改etcd配置: "Backend": {"Type":"vxlan"}==>表示为vxlan类型网络 "VNI": 1==>表示vxlan的网络id为1 "Port ": 8472==>表示vxlan 目前先写到这里,下一篇文章里我们继续介绍k8s集群flannel vxlan overlay网络下pod到pod的通讯过程。

    85130发布于 2020-04-01
领券