首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏大数据进阶

    flink系列(7)-streamGraph

    StreamGraph是flink四层执行图中的第一层图,代码在org.apache.flink.streaming.api.graph包中,第一层graph主要做的事情是将所有的stransformation 可以看到DataStreamSource是DataStream的子类 DataStreamSource是DataStream的数据流抽象,StreamSource是StreamOperator的抽象,在 flink 可以看到StreamMap/StreamFlatMap都是operator的子类,下面来看一段具体生成operator和transformation的代码 /** * Applies a Map transformation * {@link RichMapFunction} to gain access to other features provided by the * {@link org.apache.flink.api.common.functions.RichFunction

    1K20发布于 2019-09-17
  • 来自专栏大数据进阶

    flink(13)-flink on yarn源代码分析

    session cluster和per job 因为是源码分析,所以会分为服务端和客户端两个部分的代码分析,下面我先看服务端
    session cluster模式是类似standalone,先去向
    session client和per job 由于flink不同的版本代码变动较大,所以在这里需要区分flink的版本进行一下说明 flink1.9之前的基本一致,提交至yarn的主要流程都在 到这里已经将所有的提交流程都说完了,大家对于flink争个提交流程应该有了更加清晰的认识。
    最后在来说一下flink submit的接口,这是在flink-1.10才出现的一个新的统一,流程图如下
    ?
    从上图可以看出来,AbstractSessionClusterExecutor中的主要调用逻辑其实和上面我们已经看到的session cluster的提交流程是一致的,只不过代码更加的抽象,

    1.6K30发布于 2020-04-24
  • 来自专栏小道

    Flink学习笔记(7) -- Flink 并行度详解(Parallel)

      Flink的每个TaskManager为集群提供slot。 slot的数量通常与每个TaskManager节点的可用CPU内核数成比例。一般情况下你的slot数是你每个节点的cpu的核数。    一个Flink程序由多个任务组成(source、transformation和 sink)。 一个任务由多个并行的实例(线程)来执行, 一个任务的并行实例(线程)数目就被称为该任务的并行度。 为了以并行度3来执行所有的算子、数据源和data sink, 可以通过如下的方式设置执行环境的并行度:   并行度可以在客户端将job提交到Flink时设定。    /bin/flink run -p 10 WordCount-java.jar   在系统级可以通过设置flink-conf.yaml文件中的parallelism.default属性来指定所有执行环境的默认并行度

    2.2K20发布于 2021-04-13
  • 来自专栏编程学习

    日志代码编写

    了解日志   日志是程序周期性运转或者特定时刻等一些常规或者特殊消息以特殊的形式打印出来,我们称为日志,关于日志,AI是这样回答的:   而我们今天要编写的日志,是使用C++编写的日志,日志格式为纯文本日志类型是应用程序日志 日志编写 ✈️日志等级   日志是有等级的,就类似程序在调试的时候分为警告,错误,和崩溃等 等级一般,日志也有自己的等级,不过这里需要人为的将日志等级进行分类。 LINE__, level, format, ##__VA_ARGS__); \ } while (0) ✈️日志加锁   我们的日志可以适用于很多场景,多线程场景也不例外,所以,我们有必要对一些代码进行加锁 完整代码 Log.hpp: #pragma once #include <cstdio> #include <iostream> #include <time.h> #include <cstdarg

    47810编辑于 2024-11-02
  • 来自专栏从零开始学 Web 前端

    【第 7 期】如何编写自己的代码模板片段code snipped?

    阅读本文大概需要 7 分钟。 代码片段在平时的工作中发挥着巨大的作用,极大的节省了我们的工作量。 而对于不同的项目,不同的功能,我们通常希望有一个可复用的代码模板片段,像自动补全一样,只需要我们编写出模板的前几个单词按下tab键就可以自动补全一段代码,这样想想就觉得很舒心。 我们选择创建javascript语言类型的代码片段。 从下拉列表中选中javascript,之后进入到编写具体代码片段的界面。 我们可以看出,这是一个JSON文件,将Example后面,也就是7-14行的注释去掉,可以看到有一个JSON的属性key叫Print to console,它的值value是一个对象。 ], 8        "description": "Log output to console" 9    } 10} 我们在编写代码片段的的时候,一定要注意key不能相同,这个也符合JSON的语法

    2K30编辑于 2022-05-07
  • 来自专栏飞总聊IT

    代码整洁之道-编写 Pythonic 代码

    写出 Pythonic 代码 谈到规范首先想到就是 Python 有名的 PEP8 代码规范文档,它定义了编写Pythonic代码的最佳实践。 同时这段代码无法解决字典缺少键出现异常的问题。 让我们使用函数重写此代码,使代码更具可读性和正确性; 该函数将判断异常情况,编写起来要简单得多。 下面让我们简要介绍一下在 Python 代码编写 docstrings 的一些最佳实践 。 在多行上编写文档字符串是用更具描述性的方式记录代码的一种方法。你可以利用 Python 多行文档字符串在 Python 代码编写描述性文档字符串,而不是在每一行上编写注释。 ,养成编写 Pythonic 代码的良好习惯。

    2.2K20发布于 2019-10-31
  • 来自专栏BigData_Flink

    Flink中使用Scala编写出现(...)错误

    A2 原因 没有导入相应包 A3 解决 在算子前添加 import org.apache.flink.api.scala._ ?

    73910发布于 2021-04-12
  • 来自专栏杨熹的专栏

    编写生命代码

    如各位所想,这项惊人的能力 可以让生命按照程序编写的一样 做你想让它做的事 得到你想得到的结果。 生命密码蕴含强大的力量。

    934100发布于 2018-04-02
  • 来自专栏兮动人的博客

    C 代码编写规范

    比如:2 + 4 * 5 也可以使用代码格式化快捷键 Ctrl+alt+L // 可以自己设置 VC++ 2010 设置快速格式化键:工具–>选项 ? 3.

    97320发布于 2021-07-21
  • 来自专栏兮动人的博客

    C 代码编写规范

    比如:2 + 4 * 5 3) 也可以使用代码格式化快捷键 Ctrl+alt+L // 可以自己设置 VC++ 2010 设置快速格式化键:工具-->选项 [在这里插入图片描述]3.

    92860发布于 2021-06-30
  • 来自专栏追不上乌龟的兔子

    编写更好的代码

    何为”更好”的代码本身就是仁者见仁,我们在这里主观地选择一个评价标准: 代码要满足安全性 ,可用性 ,可维护性 ,简洁性 , 高性能的要求,这几项的重要性递减。 毫无疑问编写代码本身是一件很难的事,但是在遵循一些指导原则的话,我们可以相对编写出更好的代码。 命名 有一句不太可考的名言是”计算机科学只存在两个难题:缓存失效和命名”。 不是每个程序员都要经常编写用到各种缓存机制的代码,但是我们每天都在不断地命名,好的命名需要遵从一些规则: 名副其实 我们要选择有意义的命名,date比d要好,index比i要好,list1和list2并没有比 每个代码块(if,while,for)中的代码也不宜很多,最好只是一条函数调用(有一个有意义的名称)。这也意味着函数的嵌套结构不要太复杂。 只做一件事 一般来说很长的函数也做了很多的事。 注释 好的代码描述自身的意图,当我们很难做到这一点时,才需要添加注释。 注释最大的问题是和代码相比,注释是缺乏维护的。

    94930编辑于 2023-04-13
  • 来自专栏ops技术分享

    python代码编写规范

    最近两年的工作都是和运维相关,有时运维人员也会写一些python程序,但基本上都没有遵循相应的代码规范,一向粗暴,能用就行,既不考虑可读性也不考虑可维护性,作为一个开发人员有时候看他们写代码就很不舒服, 今天就谈谈python写代码时的一些规范。 python的代码编写基本上都要遵循PEP8的风格。 对类或函数的功能及使用方法的详细说明应使用文档字符串 python的注释尽量使用英文 5.并发 I/O密集型,像web应用这样的场景应该使用多线程编程 计算密集型,像计算圆周率等场景应该使用多进程编程,尽可能利用多核CPU优势 当然在编写代码时你的某些编辑器如 我们编写代码不仅是要实现某种功能,就尽管它是核心,但是你的代码在以后极有可能会交给别人去维护,所以你写的代码应当尽可能地让人看懂,避免给别人留坑。

    1.1K30发布于 2021-06-22
  • 如何编写PTX 代码

    编写 CUDA C/C++ 代码 使用 CUDA C/C++ 编写一个简单的内核函数(kernel)。 PTX 代码。 add.s32 %r5, %r3, %r4; cvta.to.global.u64 %SP, %SP; st.global.u32 [%SP], %r5; ret; } 二、直接编写 编写函数和指令 使用 PTX 的指令集编写您需要的内核函数。 生成可执行文件 可以将生成的目标文件(my_kernel.o)与其他 CUDA 代码或主机代码链接,生成最终的可执行文件。 通过以上步骤,您可以方便地获得或编写 PTX 代码

    1.2K10编辑于 2025-04-05
  • 来自专栏码客

    Flink使用代码提交任务

    前言 本文Flink使用版本1.12.7 代码提交任务 准备文件夹和文件 hadoop fs -mkdir -p /jar/userTask hadoop fs -mkdir -p /jar/flink12 /libdist hadoop fs -mkdir -p /jar/flink12/lib 拷贝需要的文件 hadoop fs -put $FLINK_HOME/examples/batch/WordCount.jar /jar/userTask/WordCount.jar hadoop fs -put $FLINK_HOME/lib/flink-dist_2.12-1.12.7.jar /jar/flink12/libdist /flink-dist_2.12-1.12.7.jar hadoop fs -put $FLINK_HOME/lib/* /jar/flink12/lib/ 查看文件可以访问这个地址 http://hadoop01 /version> </dependency> 代码 package cn.psvmc; import org.apache.flink.client.deployment.ClusterDeploymentException

    2K30编辑于 2023-01-08
  • 来自专栏一日一工具

    编写地道的Go代码

    作者:iCaptain 链接:https://www.jianshu.com/p/29543b642485 來源:简书 共 3264 字,阅读需 8 分钟 最地道的Go代码就是Go的标准库的代码,有空的时候可以多看看 处理error而不是panic或者忽略 为了代码的强健性,不要使用_忽略错误,而是要处理每一个错误,尽管代码写起来有些繁琐也不要忽略错误; 尽量不要使用panic; 5. 空字符串检查 正确方式: if s == "" { ... } 而不是: if len(s) == 0 { ... } 更不是: if s == nil || s == ""{ ... } 7.

    63830发布于 2020-07-06
  • 来自专栏多选参数

    可读代码编写炸鸡一

    但是在写代码的过程中,我逐渐发现一个问题,不仅是在学习还是工作上。 包括我在内,许多人的代码可读性其实一塌糊涂。先不从代码组织,设计模式这些较大的方面来说。 代码编写规范,是很少人去注意的,这段时间,我的主程让我看一本书 ——《编写可读代码的艺术》,正好直击痛点,于是我打算写一写关于这个方面的东西。 编写这段代码的人都要小心 i,j,k 是否使用出错,阅读者的阅读难度也加大。 所以,循环变量不要宽泛不明确,也要加入更多的信息。 如下代码就是一个例子,编写者想的是,服务器是否准备就绪,只需要检查一下端口是否被占用即可。 那么如果是编写者自己封装的函数呢。 local starttime_ms = myClock() ...

    55410发布于 2020-04-07
  • 来自专栏终有链响

    高性能代码如何编写

    随着应用程序规模的不断增长和用户对性能的不断提升的要求,开发人员需要更加关注如何编写高性能的代码,以确保应用程序能够在各种情况下都能保持稳定和高效。 编写高性能代码需要从多个方面入手,包括以下内容: 一、算法选择 1.1 快速排序(Quick Sort) 在Java中,Arrays.sort() 方法使用了一种改进的快速排序算法,通常情况下具有很好的性能 3.2 Fork/Join 框架         Java 7 引入的 Fork/Join 框架是一种用于并行计算的工具。 Gatling 使用 Scala 编写,提供了基于 DSL 的测试脚本编写方式,可以方便地编写复杂的性能测试场景。          综上所述,编写高性能代码需要综合考虑算法、数据结构、并行计算、内存访问以及代码本身的优化等多个方面,通过不断优化和测试,逐步提高代码的性能水平。

    52910编辑于 2024-07-29
  • 来自专栏站长运维

    代码规范和文档编写

    代码规范和文档编写 Golang 的代码规范和文档编写指南 Golang 是一种高性能、并发性强的编程语言,越来越受到开发者们的喜爱。 但是,为了保证代码的可读性、可维护性和可扩展性,我们需要遵循一些编码规范和文档编写规范。本篇文章将介绍 Golang 的代码规范和文档编写指南。 1. 1.5 注释 注释应该清晰明了,并且应该解释代码的功能和目的。对于导出函数和类型,我们应该编写文档字符串,以便其他人可以阅读并理解它们。 Golang 的文档工具可以自动运行并测试示例代码,以确保它们是正确的。 3. 结论 以上就是 Golang 的代码规范和文档编写指南。 遵循这些规范可以使代码更易于维护和扩展,并且可以提高开发效率和代码质量。同时,使用 godoc 工具和编写示例代码可以帮助其他人了解你的代码和使用方式。

    60810编辑于 2023-11-28
  • 来自专栏行者常至

    idea Java 代码编写规范

    1.阿里巴巴Java开发手册 ---- 2.基于上面的idea代码检查插件 打开idea file–>setting–>plugins–>Browse repositories… 搜索alibaba可以看到

    2.1K00发布于 2018-09-19
  • 来自专栏全栈程序员必看

    JAVA的HelloWorld代码编写

    第一步:新建一个文本文档 第二步:打开代码输入代码(注意大小写,Java对大小写很敏感) 第三步:更改后缀为.java (这样这个文档就会成为一个原文件) 第四步: 按住shift键,鼠标右键单击

    1.8K30编辑于 2022-08-24
领券