- 综合排序
- 最热优先
- 最新优先
- 来自专栏机器学习与python集中营
【语料库】中文公开聊天语料库
电视剧对白语料） https://github.com/fateleak/dgk_lost_conv tieba（贴吧论坛回帖语料） https://pan.baidu.com/s/1mUknfwy1nhSM7XzH8xi7gQ
9.8K50发布于 2019-05-29 - 来自专栏明天依旧可好的专栏
原始语料库
第一步： 判断数据中是否存在重复数据 创建python文件– 代码框架 ''' author: kzb time: 2018-12-10 ''' import pandas as pd import os,csv dataPath = os.path.join("音译原始数据.csv") def import_data(dataPath): ''' 导入文件中的数据 return:dataFrame ''' pass def find_En_Cn_excess(dataFrame
99030发布于 2019-01-22 - 来自专栏大模型应用
大模型应用：语料库治理实战：基于 text2vec+BERT 的由浅入深解析.41
直接用这类脏数据训练模型，只会让模型学错知识、生成混乱内容；而经过专业治理的小语料库，能让本地化模型的效果提升 50% 以上。 语料库治理的定义语料库治理（Corpus Governance）是指对原始文本数据进行采集、清洗、去重、质量评估、存储管理的全流程，核心目标是：降低噪声率（冗余、错误、无意义内容占比）；提升文本质量（语法正确性 对于小语料库，治理的核心原则是精而不是多，哪怕只有 1G 高质量语料，也远胜于 10G 脏数据。2. 语料库治理的问题2.1 完全重复：模型的记忆超载问题体现：同一段文本像复读机一样反复出现。 治理要点：建立精细化的领域分类系统，为不同应用场景构建领域纯净或领域平衡的语料集。3. 语料库治理的取舍 语料库治理并非简单的“剔除所有问题”，而是一门融合的艺术。 本地存储：结构化存储治理后的高质量语料五、示例：语料库治理实践1. 原始语料生成模拟包含噪声的原始语料（重复、短文本、格式混乱、错别字），覆盖 3 个核心领域。
34443编辑于 2026-03-10 - 来自专栏超级架构师
【数据治理】引导您制定有效数据治理计划的 7 个步骤
内部数据治理：第 3 部分 |数据治理的 7 个步骤 在本系列的第一部分中，我们定义了数据治理并研究了导致大规模清理项目的失误。 在第二部分中，我们检查了常见的数据治理模型，并回顾了哪些模型最适合不同类型的组织。在这篇文章中，我们将介绍数据治理的七个关键步骤。 即使您了解数据治理的主题，知道从哪里开始仍然是一个挑战。 这些步骤将帮助您走上通往有效数据治理框架的正确道路： 1. 建立数据治理组织 第一步是评估各种数据治理模型并选择最适合您组织的模型。数据治理组织的角色因一种模式而异。 识别战略主数据对象 数据治理无疑有助于提高数据的一致性，并使其与系统设计保持同步。但是，管理所维护的每条数据并不是一个好主意。必须识别需要治理的数据对象。 SAP MDG、Itelligence it.mds 和 SAP Information Steward，所有这些都内置了自动化各种治理流程和确保合规性的功能。 7.
89220编辑于 2022-05-30 - 来自专栏JasonhavenDai
人民日报标注语料库（PFR）1.标记说明2.格式说明3.例子4.生语料库和熟语料库5.其他语料库汇总
PFR语料库是对人民日报1998年上半年的纯文本语料进行了词语切分和词性标注制作而成的，严格按照人民日报的日期、版序、文章顺序编排的。 q、区别词b、代词r、动词v、形容词a、状态词z、副词d、介词p、连词c、助词u、语气词y、叹词e、拟声词o、成语i、习惯用语l、简称j、前接成分h、后接成分k、语素g、非语素字x、标点符号w）外，从语料库应用的角度 /w 4.生语料库和熟语料库 语料库中存放的是在语言的实际使用中真实出现过的语言材料，语料库是以电子计算机为载体承载语言知识的基础资源，真实语料需要经过加工 、分析和处理之后才能成为可用的语料库 生语料库是指收集之后未加工的预料库 相对而言，熟语料库就是经过加工的 5.其他语料库汇总 http://blog.csdn.net/qq
5.9K80发布于 2018-04-11 - 来自专栏机器学习AI算法工程
文本分类中语料库的获取——搜狗语料库
这次主要总结搜过语料库的获取，因为老师要求20万数据，而我自己只爬了2万多，所以用到了搜狗的语料库.
3.2K80发布于 2018-03-14 - 来自专栏华章科技
详解数据治理相关的7个术语和名词
导读：本文介绍数据治理有关的名词和概念。当然，与数据治理相关的概念非常多，以下仅罗列几个常见的。 作者：用友平台与数据智能团队 来源：大数据DT（ID：hzdashuju） 01 数据元 1. 应用举例 元数据是业界公认的数据治理中的核心要素，做好元数据管理，能够更容易地对数据进行检索、定位、管理和评估。 为了提升数据仓库的数据质量，确保数据分析的准确性，数据仓库的建设需要实施数据治理的策略。很多企业的数据治理项目实施的动因都是解决数据仓库中的数据质量问题，以便获得更准确的分析决策。 数据湖的出现给数据治理带来了一定的挑战。数据湖将数据全部集中存储，那数据治理是在“湖中”治理还是在“湖外”治理，这是个需要企业研究和探索的问题。 石秀峰，用友集团数据治理专家、中国电子商会数据资源服务创新专业委员会受聘专家、数据质量管理智库（DQPro）受聘专家。深耕数据领域十余年，曾主导过多家大型集团的数据治理、数据集成等项目的咨询和落地。
1.5K20编辑于 2022-01-20 - 来自专栏希里安
微服务治理？容器治理？
可识别英语、俄语、中文等语言，感兴趣的可以看下--[Translumo](https://github.com/Danily07/Translumo) 微服务和容器治理 微服务治理和容器治理都是与分布式应用程序和容器化部署相关的领域 微服务治理（Microservices Governance）： 微服务治理是管理和维护微服务架构中的各个微服务组件的一系列策略、实践和工具。 自动化： 自动化是微服务治理的核心，包括自动部署、自动伸缩和自动化测试等。 容器治理（Container Orchestration）： 容器治理是管理容器化应用程序的一系列策略和工具。 容器治理实例 容器治理是确保容器化应用程序在分布式环境中可靠运行的一组实践和工具。 容器治理： 安全性容器治理可以管理访问控制、证书管理和数据加密，以确保数据的保密性和完整性。
1.1K40编辑于 2023-10-30 - 来自专栏实时流式计算
【译文】数据治理与BI治理
几十年来，数据治理一直是企业关注的焦点，并随着企业数据量的急剧增长，数据治理的重要性日益凸显。然而，大规模的有效BI治理一直是一个难以实现的目标，因为它需要比传统数据治理更广泛的关注点。 毕竟，如果给用户的交付物不一致，或者缺乏适当的上下文以确保业务用户正确地理解数据，那么所谓高质量、精心治理的数据又有什么价值呢？ 有效的BI治理要求组织为数据和分析的治理建立流程。 BI门户的关键治理角色体现在以下两个场景：独立的BI治理平台，或与数据目录协同工作。 什么是数据治理？ 数据治理是一组确保有效管理和利用数据的过程和技术的集合。 组织中的分析师和数据管理员使用数据治理工具来执行公司治理政策，来促进数据的正确使用。 应用这些工具进行数据治理需要大量的持续投资，因此许多组织希望从这些投资中获得可观的投资回报。 什么是BI治理？
1.5K40编辑于 2023-03-24 - 来自专栏橙子架构杂谈
【服务治理】服务治理漫谈
【服务治理】服务治理漫谈 0. 这能给我们后续无论是业务应用还是基础技术领域的服务治理提供一些参考。 1. 什么是服务治理 在一切的最开始，我们先来问自己一个问题，什么叫做服务治理？ 我们需要什么样的服务治理 我们了解了什么是服务治理、服务治理是怎么演变发展的，这时候，我们不禁会想，我也要做服务治理！但是，请先停一下，请先问一下自己，我们需要什么样的服务治理？ 但，服务治理上，如何才能实现更高效的自动化呢？我认为： 自动化是治理的高级形态，而标准化是规模化治理的前提。 结语与展望 我们来回顾一下，在第一章，我们讲述了什么是服务治理，认为服务治理即治理三要素和服务环，第二章，介绍了服务治理的发展演变，简单介绍了三个阶段的思潮和演变的逻辑，让我们对于目前服务治理大发展方向和未来的发展趋势可以有一个初步的预测
4K31编辑于 2021-12-06 - 来自专栏Star先生的专栏
Fiddler + JSoup 爬取现代汉语语料库数据
&__VIEWSTATEGENERATOR=3A0BE18D&__EVENTVALIDATION=%2FwEWFQKNm9KcBQLYiuv%2FCwLzuO7zDQL3uO7zDQLV%2BYmkCgLZ &__VIEWSTATEGENERATOR=3A0BE18D&__EVENTVALIDATION=%2FwEWFQKNm9KcBQLYiuv%2FCwLzuO7zDQL3uO7zDQLV%2BYmkCgLZ &__VIEWSTATEGENERATOR=3A0BE18D" + "&__EVENTVALIDATION=%2FwEWDgK3wKfCCgLYiuv%2FCwLzuO7zDQL3uO7zDQLV %2BYmkCgLZ%2BYmkCgKM54rGBgK8u9naBwKJlM7DBwKAg8rcDgKWzvT1CAKWzuCuBwK2q5qHDgK%2FxfDTAXWmVvcYknI3MwjcfE48IiMijAq3WW044PF7g9pBhtfu &__VIEWSTATEGENERATOR=3A0BE18D&__EVENTVALIDATION=%2FwEWFQKNm9KcBQLYiuv%2FCwLzuO7zDQL3uO7zDQLV%2BYmkCgLZ
2K00发布于 2017-08-01 - 来自专栏AI算法与图像处理
SCI语料库！学术写作神器——Academic Phrasebank
https://www.phrasebank.manchester.ac.uk/introducing-work/ 参考视频: https://www.bilibili.com/video/BV1Le4y1z7no
2.4K30编辑于 2022-12-11 - 来自专栏CreateAMind
抽象和推理语料库的通用规划
Generalized Planning for the Abstraction and Reasoning Corpus 抽象和推理语料库的通用规划 https://arxiv.org/abs/2401.07426 摘要 抽象和推理语料库（ARC）是一个通用的人工智能基准，由于其对流体智能的要求，侧重于推理和抽象，对于纯粹的机器学习方法来说具有挑战性。 其中一个任务，由Chollet（2019）引入的抽象和推理语料库（ARC），仍然是一个开放的挑战。 当no指向最后一个节点对象时，第3行无法增加指针，然后执行第5-7行，将no设置为第一个节点，并让co指向下一个颜色。当所有颜色都尝试过后，程序将结束。 图7显示了一个例子，其中GPAR未能泛化，因为4-连接和8-连接抽象都可以解决训练实例；然而，只有8-连接抽象为测试实例提供了正确的解决方案。鉴于训练实例，这个任务的正确解决方案是不明确的。
51710编辑于 2024-07-05 - 来自专栏全栈程序员必看
服务治理
服务治理可以说是微服务架构中最为核心和基础的模块，它主要用来实现各个微服务实例的自动化注册和发现。 中 istio 谷歌、IBM、Lyft 是 少 Ps：Spring Cloud Eureka是Spring Cloud Netflix 微服务套件的一部分，主要负责完成微服务架构中的服务治理功能 1.阿里 – Dubbo 2.阿里 – HSF 3.腾讯 – Tars 4.JSF 5.CNCF – Linkerd 6.新浪 – Motan 7.istio 大部分（Linkerd除外、 除了这3个核心动作之外，其它的辅助操作还有统计上报、鉴权等等，这也是我们搭建一个服务治理框架需要实现的功能。从MVP的角度来说，注册、订阅、变更下发是最基础的核心功能。 服务治理的扩展 在企业中，我们可以针对服务治理做更多的扩展。比如： 1.基于版本号的服务管理，可以用于灰度发布。 2.请求的复制回放，用于模拟真实的流量进行压测。
1.2K30编辑于 2022-08-04 - 来自专栏FreeBuf
观点 | 数据治理与数据安全治理思考
数据治理 数据治理（Data Governance）是组织中涉及数据使用的一整套管理行为，包括数据治理计划、监控、实施。 从这8个能力域来看与数据治理需要的工具类似，因此我们在某一个层面上，可以DCMM为标准来进行数据治理的工作开展，或者认同DCMM作为现阶段数据治理的指导，不必深究数据治理与数据管理的差异化。 （数据安全复合治理与时间白皮书） 不同之处 →视角不同 数据治理的视角： 数据治理指利用数据驱动业务，实现企业增值。数据治理的智能化程度，决定了企业数字化转型的加速度。 而数据安全治理是数据治理的一个过程，是企业数字化转型进行数据治理中必经阶段，数据安全治理是否可以独立实施还有待详细讨论，数据安全治理是以保护数据的生命周期安全，需要的一系列管理和技术支撑，是数据安全领域数据 在现阶段多数中小企业数据中台或数据治理仍在建设中的情形下，根据数据治理的侧重点不同，在数据治理过程中实施数据安全治理的比重或阶段各不相同，甚至不包含数据安全治理。
2.3K30编辑于 2023-03-30 语料库构建与主动学习标注工具解析
大多数自然语言处理项目的成功关键取决于用于训练和评估模型的标注数据质量。本期节目中，某机构的Matt和Ines介绍了如何通过一款工具提升数据标注和模型开发工作流程。
15510编辑于 2025-09-19- 来自专栏数据分析与挖掘
COIG：开源四类中文指令语料库
我们构建了5个开源的高质量中文指令语料库，包括68k的普通中文指令语料库、62k的中文考试指令语料库、3k的中文人值对齐语料库和13k的中文反事实校正多轮聊天语料库，作为沿着指出的研究方向构建新的中文教学语料库的样本 Part3COIG：中文开源指令数据通用语料库 第3.1节中分别介绍了一个经过人工验证的普通指令语料库，在第3.2节中介绍了一个经过人工注释的考试指令语料库，在第3.3节中介绍了一个人类价值调整指令语料库 ，在第3.3节中介绍了一个多轮反事实修正聊天语料库，在第3.5节中介绍了一个leetcode指令语料库。 我们提供这些新的指令语料库是为了帮助社区对中文LLMs进行指令调整。这些指令语料库也是如何有效建立和扩展新的中文指令语料库的模板工作流程。 6指令语料库构建工作流程的实证验证 本节总结了关于中文指令语料库建设工作流程的合理实证结论和经验。
1.4K20编辑于 2023-04-27 - 来自专栏数据科学与人工智能
基于Python的语料库数据处理（六）
文 | 段洵 3756字 | 10 分钟阅读 一起来学习用Python进行语料库数据处理吧！ 今天我们学习的内容是匹配零个或多个字符！ 例子文本节选自 FROWN语料库。请完成下列检索匹配任务:①如何检索文本中所有以-ing结尾的单词?②如何检索文本中所有以th-开头的单词?③如何检索文本中所有数字或者含有数字的字符串?
78510发布于 2021-01-28 - 来自专栏韩锋频道
浅析”IT治理“
正因为如此，才引入了"IT治理"这个概念。从定义上讲，IT治理，是指设计并实施信息化过程中，各方利益最大化的制度安排。 3 IT治理、企业治理、IT管理的关系 这是三个很容易混淆的概念，只有理清三者关系，才能有效推动治理落地。 【IT治理】 IT治理，主要关注企业的IT投资是否与战略目标相一致，从而构筑必要的核心竞争力。IT治理要能体现未来信息技术与未来企业组织的战略集成。 IT治理实践 1 前提条件 明确目标 IT治理活动与企业治理过程相结合，并有企业领导的参与。IT治理专注于企业目标和战略，使用技术提高业务水平，并满足业务需求的足够可用的资源和能力。 治理流程 IT治理流程是保证企业的相关部门采用合理的步骤进行IT治理活动。制订相关流程和规范并有效实施。它应是根据企业需求出发并落实责任到人。
4.1K40发布于 2019-06-06 - 来自专栏深入浅出区块链技术
探究Compound治理及构建治理界面
注：COMP 部署在0xc00e94cb662c3520282e6f5717214004a7f26888[7] 、 治理合约部署在0xc0dA01a04C3f3E0be433606045bB7017A7323E38 // Ropsten COMP Contract const compAddress = '0x1fe16de955718cfab7a44605458ab023838c2793'; const compAbi // Ropsten COMP Contract compAddress = '0x1fe16de955718cfab7a44605458ab023838c2793'; compAbi = window.compAbi 0xc0da01a04c3f3e0be433606045bbbb7017a7323e38 [6] 映射: https://learnblockchain.cn/docs/solidity/types.html#mapping-types [7] 0xc00e94cb662c3520282e6f5717214004a7f26888: https://etherscan.io/token/0xc00e94cb662c3520282e6f5717214004a7f26888
1.6K31发布于 2020-10-23
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号