首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏Jed的技术阶梯

    Spark History Server配置

    (1) 修改spark-defaults.conf配置文件 该文件在SPARK_HOME/conf/下,新安装的spark中只有spark-defaults.conf.template这个文件,改名为spark-defaults.conf :9000/spark/historyLog spark.history.fs.logDirectory hdfs://repo:9000/spark/historyLog # spark.eventLog.compress (2) 启动history server [root@repo conf]# start-history-server.sh (3) 访问web界面 ? (4) 测试 提交一个spark任务 spark-submit \ --class org.apache.spark.examples.SparkPi \ --master spark://repo:7077 Spark History Server配置成功!

    1.3K10发布于 2018-09-13
  • 来自专栏容器计算

    Spark history server fails to render compressed inprogress history file in some

    Spark history server fails to render compressed inprogress history file in some cases 1 Overview 我们目前生产环境 ,包括 Spark History Server 用的都是 Spark 2.2.0 的 Fork 版本,所以社区有些基于 2.2.0 甚至之前版本的 Fix 是没有合并进来的。 近期在看 Spark History Server 的时候,偶尔会发现无法访问。 2 复盘 检查 Spark History Server 的日志,发现如下错误信息。 ? Spark history server fails to render compressed inprogress history file in some cases,最后发现这是一个 Spark 3 Fix 解决的办法就是升级 Spark History Server 的版本。基于 Spark 2.3.0 重新构建一个镜像就可以了。

    55441发布于 2020-08-06
  • 来自专栏大数据-Hadoop、Spark

    Spark History Server自动删除日志文件

    临时的解决方案 mv spark-history spark-history_bak,并新建spark-history空目录,新起的任务日志可以往新的空目录下写入,不过,如果之前有任务往旧目录写入日志, true spark.history.fs.cleaner.interval 1d spark.history.fs.cleaner.maxAge 5d spark.history.fs.logDirectory hdfs://cluster123/spark2-history/ spark.history.fs.numReplayThreads 20 spark.history.fs.update.interval spark.history.kerberos.principal spark-hz-cluster11@HADOOP2.XXYY.COM spark.history.provider org.apache.spark.deploy.history.FsHistoryProvider spark.history.retainedApplications 50 spark.history.store.maxDiskUsage 500g spark.history.store.path

    3.2K10发布于 2021-01-04
  • 来自专栏用户7873631的专栏

    详解History

    DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <title>52-JavaScript-History</title

    我是第一个界面

    <button id="btn1">前进</button> <button id="btn2">刷新</button> 新的界面222 <script> // History: 代表浏览器的历史信息, 通过History来实现刷新/前进/后退 // 注意点: 出于隐私考虑, 我们并不能拿到用户所有的历史记录 () { window.history.go(0); } </script> </body> </html> //连接到的页面 <! (); window.history.go(-1); } </script> </body> </html>

    67220发布于 2020-10-28
  • 来自专栏Czy‘s Blog

    History对象

    History对象 History对象允许操作浏览器的曾经在标签页或者框架里访问的会话历史记录。 方法 history.back(): history.back()在浏览器历史记录里前往上一页,用户可点击浏览器左上角的返回←按钮模拟此方法,等价于history.go(-1),当浏览器会话历史记录处于第一页时调用此方法没有效果 history.forward(): history.forward()在浏览器历史记录里前往下一页,用户可点击浏览器左上角的前进→按钮模拟此方法,等价于history.go(1),当浏览器历史栈处于最顶端时 history.go(): history.go(N)通过当前页面的相对位置从浏览器历史记录即会话记录加载页面,比如参数为-1的时候为上一页,参数为1的时候为下一页,当整数参数超出界限时,例如如果当前页为第一页 history.replaceState(): history.replaceState(stateObj, title[, url])该方法修改当前历史记录实体,按指定的数据、名称和URL(如果提供该参数

    1K30发布于 2021-01-29
  • 来自专栏咻一咻

    history命令

    [root@zhang user1]# help history history: history [-c] [-d offset] [n] or history -anrw [filename] or history file and append the contents to the history list 读取所有命令历史文件追加history 列表中 -w write the current history to the history file and append them to the history list 写当前的历史记录到文件中去 2001 history | tail -5 使用HISTSIZE禁用history 如果想禁用history,可以将HISTSIZE设置为0: $ export HISTSIZE=0 $ history $ history 4 1998 export HISTIGNORE="pwd:ls:" 1999 cd 2000 history 5 除了使用history命令,在 shell 或 GUI

    87720发布于 2020-05-29
  • 来自专栏容器计算

    在 K8S 部署一个 Spark History Server - 篇2

    History Server => HS 2 Start Spark 自2.3.0,之后就提供官方的 Dockerfile 了,可以基于生产环境的需求,自行 build。 docker run -it spark:v3.0.0 /opt/spark/bin/spark-class org.apache.spark.deploy.history.HistoryServer 然后你就会看到报错了… ➜ spark git:(master) ✗ docker run -it spark:v3.0.0 /opt/spark/bin/spark-class org.apache.spark.deploy.history.HistoryServer -s -- /opt/spark/bin/spark-class org.apache.spark.deploy.history.HistoryServer Using Spark's default Did you configure the correct one through spark.history.fs.logDirectory?

    1.4K40发布于 2020-08-06
  • 来自专栏容器计算

    在 K8S 部署一个 Spark History Server - 篇3

    apiVersion: apps/v1 kind: Deployment metadata: name: spark-history-server spec: selector: matchLabels : run: spark-history-server replicas: 2 template: metadata: labels: run: spark-history-server spec: containers: - image: hub.oa.com/runzhliu/spark:spark_2.11 -2.4.3 name: spark-history-server args: ["/opt/spark/bin/spark-class", "org.apache.spark.deploy.history.HistoryServer kubectl expose Deployment spark-history-server --type=NodePort --name=spark-history-server 然后看看 Service

    1.2K20发布于 2020-08-06
  • 来自专栏全栈程序员必看

    linux history原理,linux history 命令详解

    显示命令执行时间 linux shell 具有history 功能,即会记录已经执行过的命令,但是默认是不显示命令的执行时间,命令的执行时间,history 已经记录,只是没有显示。 这个时候,你再执行history就会发现已经显示了时间。如下: 清空history 历史 为了不留执行命令的痕迹,可以history –c即可清理历史命令。 如下图: history –c会清理自己及其以前执行过的命令。 修改history 历史保留的条目 有时我们会觉得history保留的历史命令条目保存太少,想多保存,可以直接修改history 配置,在.bashrc 中添加如下内容: HISTFILESIZE=2000 (默认是1000) history命令的常见用法 history n 列出最近执行过的n条命令 !

    2.7K50编辑于 2022-09-14
  • 来自专栏容器计算

    在 K8S 部署一个 Spark History Server - 篇1

    1 Overview 要在 K8S 集群中部署一套 Spark History Server,首先要了解,怎么部署一个本地版本。然后就是了解一些基本的 K8S 相关的知识点。 Spark History Server 缩写成 HS 2 Spark History Server 本地试玩 其实 Spark 官网关于如何部署 Spark History Server 是有很详细的说明的 https://spark.apache.org/docs/2.3.0/monitoring.html 总体来说 start-history-server.sh,可以启动 HS 的进程。 ? spark.eventLog.enabled true spark.eventLog.dir hdfs://namenode/shared/spark-logs 为了在本地起一个 HS 的后台进程,我们可以下载 Spark 的发行包。

    94941发布于 2020-08-06
  • 来自专栏Java

    History、Location

    History、Location 学习路线:JavaScript基础语法(输出语句)->JavaScript基础语法(变量)->JavaScript基础语法(数据类型)->JavaScript基础语法( String_JavaScript->自定义对象_JavaScript->JavaScript_BOM->Window对象->confirm()、setInterval()、setTimeout()->History 事件绑定(onclick,onfocus,onblur)-> 事件绑定(onmouseout,onmouseover) ->事件绑定(onsubmit)表单提交 ->提交表单与验证表单案例 History History 对象是 JavaScript 对历史记录进行封装的对象。 History 对象的获取 使用 window.history获取,其中window. 可以省略 History 对象的函数 演示代码 <!

    28600编辑于 2025-01-21
  • 来自专栏数据库相关

    Linux history命令

    echo $HISTSIZE    #显示命令历史缓存条目数量 history -c        #清除命令历史记录 history 其它使用技巧: ! $             #引用上一个命令的最后一个参数  给history;操作历史记录 添加日期、执行的用户等信息: echo 'HISTTIMEFORMAT="%F  %T  `whoami`

    1.5K60发布于 2019-09-18
  • 来自专栏全栈程序员必看

    Linux history命令

    1、在脚本中由于是在另外一个shell中进行语句的执行,所以history显示的是脚本运行的shell的history语句,而不会显示你执行该脚本的终端中的history 2、我们可以在家目录下的.bash_history 文件中查看自己的历史命令,而history查看的是内存中的历史命令,如果需要将内存中的历史命令加入其中,那么就需要使用history -w将当前终端的历史命令覆盖.bash_history的内容或是history -a在.bash_history文件的尾部添加当前shell的历史命令 3、只有当前终端用户退出之后才会将当前内存中的历史命令添加到.bash_history文件中 4、与history命令相关的环境变量

    1.2K20编辑于 2022-09-14
  • 来自专栏华创信息技术

    命令历史history

    文章时间:2018年12月11日 23:56:35 history命令 .bash_history //最大1000条,修改目录 /etc/profile 显示时间:HISTTIMEFORMAT="%Y /%m/%d %H:%M:%S " 永久保存命令 chattr +a ~/.bash_history 重复运行命令 !!

    1.5K20发布于 2019-11-08
  • 来自专栏ops技术分享

    JavaScript Window History

    window.history 对象包含浏览器的历史。 ---- Window History window.history对象在编写时可不使用 window 这个前缀。 一些方法: history.back() - 与在浏览器点击后退按钮相同 history.forward() - 与在浏览器中点击向前按钮相同 ---- Window history.back() history.back DOCTYPE html> <html> <head> <meta charset="utf-8"> <head> <script> function goBack() { window.history.back () history forward() 方法加载历史列表中的下一个 URL。 DOCTYPE html> <html> <head> <meta charset="utf-8"> <script> function goForward() { window.history.forward

    93230发布于 2021-07-20
  • 来自专栏前端资源

    浏览器history模式及Umi history的使用

    ; 常用示例: location.reload() 刷新 history.go(1) 前进 history.go(-1) 后退 history.forward() 前进 history.back() 后退 + 刷新 扩展: history.back 与 history.go 的区别: history.back(-1) 直接返回当前页的上一页,数据全部消息,是个新页面 history.go(-1) 也是返回当前页的上一页 ,不过表单里的数据全部还在 Umi中history 相关实用API 1、获取当路由信息 import { history } from 'umi'; // history 栈的实体个数 console.log (history.length); // 当前 history 跳转的action, 有push/replace/pop 三种类型 console.log(history.action) // location ) console.log(history.location.hash) 2、路由跳转 import { history } from 'umi'; // 跳转到指定路由 history.push('

    9.3K21发布于 2021-11-15
  • 来自专栏程序猿的大杂烩

    Flink History Server

    History Server概述 Flink有一个History Server,可以用来在相应的Flink集群关闭后查询已完成作业的统计信息。 那么History Server就显得十分重要了,因为通过History Server我们才能查询这些已完成作业的统计信息,无论是正常退出还是异常退出。 官方文档: History Server ---- History Server的使用 History Server允许查询由JobManager归档的已完成作业的状态和统计信息。 然后还需要配置History Server去扫描这个目录,并且可以配置扫描的间隔时间。 关于History Server的配置可以参考官方文档:History Server Config 配置完成后,可以使用如下命令启动History Server: [root@hadoop01 /usr

    3.3K21发布于 2020-10-09
  • 来自专栏hotarugaliの技术分享

    LinuxShell命令history

    简介 history 内建命令用于显示或操纵历史命令列表。 2. 格式 history [NUM|-c|-d [offset]] history [-a|-n|-r|-w] [FILE] history [-p|-s] ARG [ARG ...] 其中,FILE 用于指定保存历史命令列表的文件,默认是~/.bash_history 文件。若未指定任何选项参数,则默认显示保存的所有历史命令列表。 -n .bash_history ... 3. {N|string}[:M] 来获取内存缓冲区的历史命令记录: N 代表第 N 条历史命令(N 取正值于 history 显示的命令序号,不在 history 显示命令序号范围内则无效);N 也可以取负数

    80020编辑于 2022-02-28
  • 来自专栏Windows技术交流

    清空defender protection history

    protection history有许多记录,非常碍眼,我查询验证了命令如下 Stop-Service -Name windefend -Force -ErrorAction SilentlyContinue Remove-Item -Path "C:\ProgramData\Microsoft\Windows Defender\Scans\History\*" -Recurse -Force -ErrorAction SilentlyContinue Remove-Item -Path "HKLM:\SOFTWARE\Microsoft\Windows Defender\Scan\History\*" -Recurse 越发展越安全,defender越来越不好干预了,以前可以的办法,现在提权也无济于事,只能在安全模式下尝试删除"C:\ProgramData\Microsoft\Windows Defender\Scans\History 次进入安全模式后编辑注册表,修改WinDefend服务开机启动Start值为4;重启再次进入安全模式,删除C:\ProgramData\Microsoft\Windows Defender\Scans\History

    1.5K20编辑于 2024-12-11
  • 来自专栏全栈程序员必看

    linux history|grep 操作

    history|grep amass history|grep ls history|grep “ls -a” 发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/158536

    5.6K20编辑于 2022-09-14
领券