- 综合排序
- 最热优先
- 最新优先
- 来自专栏JasonhavenDai
人民日报标注语料库（PFR）1.标记说明2.格式说明3.例子4.生语料库和熟语料库5.其他语料库汇总
PFR语料库是对人民日报1998年上半年的纯文本语料进行了词语切分和词性标注制作而成的，严格按照人民日报的日期、版序、文章顺序编排的。 q、区别词b、代词r、动词v、形容词a、状态词z、副词d、介词p、连词c、助词u、语气词y、叹词e、拟声词o、成语i、习惯用语l、简称j、前接成分h、后接成分k、语素g、非语素字x、标点符号w）外，从语料库应用的角度 3.例子 19980101-01-001-001/m 迈向/v 充满/v 希望/n 的/u 新/a 世纪/n ——/w 一九九八年/t 新年/t 讲话/ /w 4.生语料库和熟语料库 语料库中存放的是在语言的实际使用中真实出现过的语言材料，语料库是以电子计算机为载体承载语言知识的基础资源，真实语料需要经过加工 、分析和处理之后才能成为可用的语料库 生语料库是指收集之后未加工的预料库 相对而言，熟语料库就是经过加工的 5.其他语料库汇总 http://blog.csdn.net/qq
5.9K80发布于 2018-04-11 - 来自专栏java架构计划训练营
SpringCloud Hystrix服务治理(3)
禁止服务超时时间 hystrix: command: default: execution: timeout: enabled: false 3、
45910编辑于 2022-06-14 - 来自专栏机器学习与python集中营
【语料库】中文公开聊天语料库
给出的语料原链接是为了说明该语料的原始出处是在哪里 环境 python3 处理过程 将各个来源的语料按照其原格式进行提取，提取后进行繁体字转换，然后统一变成一轮一轮的对话。 执行命令即可 python main.py 或者 python3 main.py 生成结果 每个来源的语料分别生成一个独立的*.tsv文件，都放在新生成的clean_chat_corpus
9.8K50发布于 2019-05-29 - 来自专栏明天依旧可好的专栏
原始语料库
第一步： 判断数据中是否存在重复数据 创建python文件– 代码框架 ''' author: kzb time: 2018-12-10 ''' import pandas as pd import os,csv dataPath = os.path.join("音译原始数据.csv") def import_data(dataPath): ''' 导入文件中的数据 return:dataFrame ''' pass def find_En_Cn_excess(dataFrame
99030发布于 2019-01-22 - 来自专栏大模型应用
大模型应用：语料库治理实战：基于 text2vec+BERT 的由浅入深解析.41
直接用这类脏数据训练模型，只会让模型学错知识、生成混乱内容；而经过专业治理的小语料库，能让本地化模型的效果提升 50% 以上。 语料库治理的定义语料库治理（Corpus Governance）是指对原始文本数据进行采集、清洗、去重、质量评估、存储管理的全流程，核心目标是：降低噪声率（冗余、错误、无意义内容占比）；提升文本质量（语法正确性 对于小语料库，治理的核心原则是精而不是多，哪怕只有 1G 高质量语料，也远胜于 10G 脏数据。2. 语料库治理的问题2.1 完全重复：模型的记忆超载问题体现：同一段文本像复读机一样反复出现。 治理要点：建立精细化的领域分类系统，为不同应用场景构建领域纯净或领域平衡的语料集。3. 语料库治理的取舍 语料库治理并非简单的“剔除所有问题”，而是一门融合的艺术。 本地存储：结构化存储治理后的高质量语料五、示例：语料库治理实践1. 原始语料生成模拟包含噪声的原始语料（重复、短文本、格式混乱、错别字），覆盖 3 个核心领域。
34443编辑于 2026-03-10 - 来自专栏机器学习AI算法工程
文本分类中语料库的获取——搜狗语料库
这次主要总结搜过语料库的获取，因为老师要求20万数据，而我自己只爬了2万多，所以用到了搜狗的语料库.
3.2K80发布于 2018-03-14 3个方面教你看懂数据治理
90%的人都说不出来，那么今天我就从这三个方面来讲讲数据治理，看完你就有了一个深入的了解了。一、为什么要进行数据治理？要知道，数据治理是为了解决这些实际业务痛点、支撑企业健康发展。 3.控制风险随着《数据安全法》、《个人信息保护法》等法规的出台，不合规的数据处理方式会让企业面临巨额罚款和声誉损失。 了解了数据治理的必要性，那么这项工作应该如何启动和推进？用过来人的经验告诉你，成功的数据治理必须遵循清晰的路径，急于求成往往会适得其反。二、怎么进行数据治理工作？ 3.聚焦核心场景千万不要一上来就搞全面治理，不仅费时，问题还是快速没解决，所以最好是从业务价值最高、痛点最明显的场景入手。举个例子：对于“客户主数据”，它关系到所有业务部门，同时它出现的问题很多。 3.技术架构：用什么干技术是让制度高效落地的赋能者。一个典型的数据治理技术架构，会包含以下几层：数据源层：公司里所有的业务系统数据库、文件、日志等。
32110编辑于 2025-11-10- 来自专栏瞎说开发那些事
3. 服务治理 2 --- Eureka集群
一、 高可用注册中心 在上一篇[微服务系列] 服务治理—Eureka文章中，介绍了服务注册中心的单节点搭建部署。 然而在常用的微服务结构设计中，一般都是采用分布式的环境，以避免单机故障导致服务调用不可用，所以需要对微服务中的各个组件进行高可用的部署，服务治理中的服务注册中心也是一样。 本章将结合以下的拓扑图构建高可用的服务治理。 ? 三、 快速实践 01 1.
720100发布于 2018-06-19 - 来自专栏CodeTime
SpringCloudAlibaba入门系列(3) - 服务治理组件Nacos
摘要：服务治理组件Nacos的介绍及应用，它包括了服务注册中心(discovery)和服务配置中心(config)。 3.1 服务治理介绍 先来思考一个问题 通过上一章的操作，我们已经可以实现微服务之间的调用。 这种做法存在许多问题： 一旦服务提供者地址变化，就需要手工修改代码 一旦是多个服务提供者，无法实现负载均衡功能 一旦服务变得越来越多，人工维护调用关系困难 那么应该怎么解决呢， 这时候就需要通过注册中心动态的实现服务治理 什么是服务治理 服务治理是微服务架构中最核心最基本的模块。用于实现各个微服务的自动化注册与发现。 服务注册：在服务治理框架中，都会构建一个注册中心，每个服务单元向注册中心登记自己提供服务的详细信息。 同一微服务的不同环境下共享配置 @RequestMapping("/test-config3") public String testConfig3(){ return env
66620编辑于 2023-03-08 - 来自专栏希里安
微服务治理？容器治理？
可识别英语、俄语、中文等语言，感兴趣的可以看下--[Translumo](https://github.com/Danily07/Translumo) 微服务和容器治理 微服务治理和容器治理都是与分布式应用程序和容器化部署相关的领域 微服务治理（Microservices Governance）： 微服务治理是管理和维护微服务架构中的各个微服务组件的一系列策略、实践和工具。 自动化： 自动化是微服务治理的核心，包括自动部署、自动伸缩和自动化测试等。 容器治理（Container Orchestration）： 容器治理是管理容器化应用程序的一系列策略和工具。 容器治理实例 容器治理是确保容器化应用程序在分布式环境中可靠运行的一组实践和工具。 容器治理： 安全性容器治理可以管理访问控制、证书管理和数据加密，以确保数据的保密性和完整性。
1.1K40编辑于 2023-10-30 - 来自专栏并发笔记
手写dubbo框架3-服务治理(服务注册-zookeeper)
本节涉及博客中代码的module：farpc-registry（服务治理）。 farpc-registry秉承可扩展的设计思路，提供一个接口IRegistrar。 %2f%2f127.0.0.1%3a20880%2fcom.ofcoder.farpc.demo.api.IWelcome%3fanyhost%3dtrue%26application%3ddubbo-demo 3dfixed%26default.threads%3d500%26default.timeout%3d5000%26delay%3d-1%26dubbo%3d2.6.0%26generic%3dfalse %26interface%3dcom.ofcoder.farpc.demo.api.IWelcome%26methods%3dgreet%26organization%3ddemo%26owner%3dofcoder %26pid%3d23541%26revision%3d0.0.1-SNAPSHOT%26side%3dprovider%26timestamp%3d1561962179716][zk: localhost
79551发布于 2019-07-14 - 来自专栏实时流式计算
【译文】数据治理与BI治理
几十年来，数据治理一直是企业关注的焦点，并随着企业数据量的急剧增长，数据治理的重要性日益凸显。然而，大规模的有效BI治理一直是一个难以实现的目标，因为它需要比传统数据治理更广泛的关注点。 毕竟，如果给用户的交付物不一致，或者缺乏适当的上下文以确保业务用户正确地理解数据，那么所谓高质量、精心治理的数据又有什么价值呢？ 有效的BI治理要求组织为数据和分析的治理建立流程。 BI门户的关键治理角色体现在以下两个场景：独立的BI治理平台，或与数据目录协同工作。 什么是数据治理？ 数据治理是一组确保有效管理和利用数据的过程和技术的集合。 组织中的分析师和数据管理员使用数据治理工具来执行公司治理政策，来促进数据的正确使用。 应用这些工具进行数据治理需要大量的持续投资，因此许多组织希望从这些投资中获得可观的投资回报。 什么是BI治理？
1.5K40编辑于 2023-03-24 - 来自专栏橙子架构杂谈
【服务治理】服务治理漫谈
【服务治理】服务治理漫谈 0. 这能给我们后续无论是业务应用还是基础技术领域的服务治理提供一些参考。 1. 什么是服务治理 在一切的最开始，我们先来问自己一个问题，什么叫做服务治理？ 牺牲一定的性能和资源，换取服务治理理整体的⾼高度⾃自治和可运营 2. 执⾏行行和控制分离，数据平⾯面和控制平⾯面切割 3. 虚拟化、标准化、产品化，定义规范。 我们也可以沿着这三个阶段的思考逻辑发现，其实对于服务的治理，也是处于一个反复摸索、纠结，螺旋上升的过程。 3. 我们需要什么样的服务治理 我们了解了什么是服务治理、服务治理是怎么演变发展的，这时候，我们不禁会想，我也要做服务治理！但是，请先停一下，请先问一下自己，我们需要什么样的服务治理？
4K31编辑于 2021-12-06 - 来自专栏Star先生的专栏
Fiddler + JSoup 爬取现代汉语语料库数据
%2BhAgLCpJSTBQKKn9X3AwKLlOLCBgLc%2F9LTBQL3t9jyBALZu%2BPjB6rMBlDgd9II8LdS4y%2BzUaXaUcHAjVptZHdcvx89wEPp %2BhAgLCpJSTBQKKn9X3AwKLlOLCBgLc%2F9LTBQL3t9jyBALZu%2BPjB6rMBlDgd9II8LdS4y%2BzUaXaUcHAjVptZHdcvx89wEPp + "&__EVENTVALIDATION=%2FwEWDgK3wKfCCgLYiuv%2FCwLzuO7zDQL3uO7zDQLV%2BYmkCgLZ%2BYmkCgKM54rGBgK8u9naBwKJlM7DBwKAg8rcDgKWzvT1CAKWzuCuBwK2q5qHDgK %2FxfDTAXWmVvcYknI3MwjcfE48IiMijAq3WW044PF7g9pBhtfu" + "&TextBoxCCkeywords=" %2BhAgLCpJSTBQKKn9X3AwKLlOLCBgLc%2F9LTBQL3t9jyBALZu%2BPjB6rMBlDgd9II8LdS4y%2BzUaXaUcHAjVptZHdcvx89wEPp
2K00发布于 2017-08-01 - 来自专栏AI算法与图像处理
SCI语料库！学术写作神器——Academic Phrasebank
https://www.phrasebank.manchester.ac.uk/introducing-work/
2.4K30编辑于 2022-12-11 - 来自专栏CreateAMind
抽象和推理语料库的通用规划
Generalized Planning for the Abstraction and Reasoning Corpus 抽象和推理语料库的通用规划 https://arxiv.org/abs/2401.07426 摘要 抽象和推理语料库（ARC）是一个通用的人工智能基准，由于其对流体智能的要求，侧重于推理和抽象，对于纯粹的机器学习方法来说具有挑战性。 其中一个任务，由Chollet（2019）引入的抽象和推理语料库（ARC），仍然是一个开放的挑战。 程序行数n的范围从3到10，其中n = 3的有效Π配置为v = 1，因为n = 3时Π中包含的每个指令只能出现一次，例如一个测试动作、一个goto指令和一个规划动作。 在GPAR在测试中解决的任务中，超过50%的任务只需要新颖性阈值为1（v = 1）和只有三行程序（n = 3）。
51710编辑于 2024-07-05 - 来自专栏云原生研究
使用服务网格Istio开发微服务3：服务治理
如何实现那些微服务治理的高级功能？现在就是见证奇迹的时候了。 弹性伸缩 isito 的弹性功能是由 K8S 实现的。此部分和 K8S 一样。 kind: Deployment ... spec: replicas: 1 # 实例数量 ... 2、伸缩到指定数量： kubectl scale --replicas=3 rs/foo1234 kubectl scale --replicas=3 deployment foo 3、自动伸缩 首先在 deploy 中指定部署的资源： ... 一个简单的LB配置： apiVersion: networking.istio.io/v1alpha3 kind: DestinationRule metadata: name: passport 我们再也不用在我们的业务项目中引用那些服务治理相关，让人头大的 Java SDK 了。
992107发布于 2020-05-25 - 来自专栏全栈程序员必看
服务治理
服务治理可以说是微服务架构中最为核心和基础的模块，它主要用来实现各个微服务实例的自动化注册和发现。 1.阿里 – Dubbo 2.阿里 – HSF 3.腾讯 – Tars 4.JSF 5.CNCF – Linkerd 6.新浪 – Motan 7.istio 大部分（Linkerd除外、 那么除了实际的RPC调用之外，主要多了这3个动作：注册、订阅、变更下发。除了这3个核心动作之外，其它的辅助操作还有统计上报、鉴权等等，这也是我们搭建一个服务治理框架需要实现的功能。 服务治理的扩展 在企业中，我们可以针对服务治理做更多的扩展。比如： 1.基于版本号的服务管理，可以用于灰度发布。 2.请求的复制回放，用于模拟真实的流量进行压测。 3.给请求打标签用于实时的在线压测。 4.更灵活的负载均衡和路由策略。 5.内置的熔断机制，避免整个分布式系统产生雪崩效应。
1.2K30编辑于 2022-08-04 - 来自专栏FreeBuf
观点 | 数据治理与数据安全治理思考
数据治理 数据治理（Data Governance）是组织中涉及数据使用的一整套管理行为，包括数据治理计划、监控、实施。 从这8个能力域来看与数据治理需要的工具类似，因此我们在某一个层面上，可以DCMM为标准来进行数据治理的工作开展，或者认同DCMM作为现阶段数据治理的指导，不必深究数据治理与数据管理的差异化。 （数据安全复合治理与时间白皮书） 不同之处 →视角不同 数据治理的视角： 数据治理指利用数据驱动业务，实现企业增值。数据治理的智能化程度，决定了企业数字化转型的加速度。 而数据安全治理是数据治理的一个过程，是企业数字化转型进行数据治理中必经阶段，数据安全治理是否可以独立实施还有待详细讨论，数据安全治理是以保护数据的生命周期安全，需要的一系列管理和技术支撑，是数据安全领域数据 在现阶段多数中小企业数据中台或数据治理仍在建设中的情形下，根据数据治理的侧重点不同，在数据治理过程中实施数据安全治理的比重或阶段各不相同，甚至不包含数据安全治理。
2.3K30编辑于 2023-03-30 语料库构建与主动学习标注工具解析
大多数自然语言处理项目的成功关键取决于用于训练和评估模型的标注数据质量。本期节目中，某机构的Matt和Ines介绍了如何通过一款工具提升数据标注和模型开发工作流程。
15510编辑于 2025-09-19
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号