首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏张叔叔讲互联网

    人群LookALike以及挖掘人群的创建思路

    目前也有利用社交网络进行人群LookALike的实践方案,通过好友关系找到种子人群中所有用户的几度好友并构建目标人群挖掘人群是指定优化目标,借助算法能力找到满足要求的用户并构建人群。 规则人群是通过“条条框框”的筛选条件找出满足要求的用户,而挖掘人群通过算法更好地拟合用户特点,以业务的优化目标为导向更精确地找到目标用户。 以上示例都有具体的挖掘人群的优化目标:游戏下载量、充值金额、关注用户数,算法工程师根据该目标选择合适的模型进行人群挖掘人群挖掘的思路是先找到训练样本(种子人群),然后通过LookALike的思路扩展种子人群。该方式与人群LookALike不同的是,人群挖掘的结果中可以包含种子人群中的用户数据。 以上述充值送好礼活动为例,为了挖掘出充值意愿比较强烈的用户群,第一步需要找到种子人群,可以把最近有过充值行为的用户和最近在应用中有过消费行为的用户作为种子人群;第二步是基于种子人群进行扩量,其实现思路与

    1.9K30编辑于 2023-10-22
  • 来自专栏张叔叔讲互联网

    画像平台人群创建方式-规则人群创建

    ,同理,人群圈选条件最终转换为Hive SQL语句并最终将执行结果构建为人群。 前两种执行方式生产的人群会优先产出BitMap并存储到OSS中,第三种方式生成的人群数据直接存储在Hive表中。为了实现人群数据的持久化存储和便捷的接口调用,人群数据最终会存储在Hive表和OSS中。 SQL语句示例如下所示,SQL执行后人群结果数据将直接存储到人群结果Hive表中。 Hive表中的人群数据主要用于离线数据分析场景,很多业务使用人群之后需要通过人群结果表进行效果分析。图5-13展示了人群结果表的表结构设计,人群crowd_id作为分区键,分区下包含该人群所有用户。 OSS中的人群数据主要应用在通过接口获取人群数据的场景下。人群数据压缩为BitMap并存储到OSS中,一亿人群大小在100M左右,通过接口可以在几秒内获取到人群结果。

    2K00编辑于 2023-10-18
  • 来自专栏张叔叔讲互联网

    画像平台人群创建方式-导入人群创建

    导入人群是将外部数据导入画像平台构建人群,主要有3种实现方式:文件导入、Hive表导入和SQL导入。 Hive导入和SQL导入方式创建的人群数据直接存储到Hive表中,后续需要通过HiveToBitmap将人群数据写入BitMap并存储在OSS中。 与Hive导入人群方式不同,文件导入优先生成人群BitMap,之后再通过BitMapToHive过程写入到人群结果Hive表中。 导入人群是画像平台最常用的人群创建方式之一,其实现了将各类数据源沉淀为人群的功能,支持更灵活的人群创建方式,拓展了画像平台数据范围。 比如运营人员将某次活动中表现良好的用户导入画像平台并构建成人群,后续可以进行广告投放或者人群分析;数据分析师离线统计出了一批高价值用户,导入平台构建人群后可以直接提供给业务使用。

    90710编辑于 2023-10-19
  • 来自专栏全栈程序员必看

    漏洞挖掘——实验11 侧信道攻击+TCPIP实验

    漏洞挖掘前言 题目 Lab 侧信道攻击 + TCP/IP实验 Pre 1、用IE访问某些网站的时候,输入javascript:alert(document.cookie)会有什么反应,解释原因。

    1K30编辑于 2022-09-14
  • 来自专栏机器学习、深度学习

    人群行为分类数据库--Crowd-11: A Dataset for Fine Grained Crowd Behaviour Analysis

    Crowd-11: A Dataset for Fine Grained Crowd Behaviour Analysis CVPRW2017 这个数据库目前貌似没有公开,以后应该公开吧。 针对人群行为分析方面的研究,本文主要的工作有以下三点: 1)针对人群行为细分,我们建立了一个较大的数据库 Crowd-1111 crowd motion patterns and it is Related work Crowd analysis 人群行为分析主要包括以下几个方面的工作: 1)Counting or density estimation 人群密度估计及计数 2) analysis 人群行为分析 1.2. 所以我们需要建立一个大的很是数据库 11类视频人群运动名称 ? ?

    1K100发布于 2018-01-03
  • 来自专栏机器学习、深度学习

    人群密度估计

    Counting Varying Density Crowds Through Attention Guided Detection and Density Estimation CVPR2018 本文针对人群密度问题 将 检测方法和回归方法结合到一起,以此来提升人群密度估计精度 人群密度估计问题目前主要的方法有基于检测的和基于回归的方法。 在人群密度小的时候,基于检测的方法效果更好。在人群密度较大的时候,基于回归方法的效果比较好。 ? ? 本文的思路就是将 检测方法和回归方法结合起来,各取所长。

    1.5K40发布于 2019-05-26
  • 来自专栏机器学习AI算法工程

    数据挖掘中最易栽的11个大坑

    按照Elder博士的总结,11大易犯错误:   1、缺乏数据   2、太关注训练   3、只依赖一项技术   4、提错了问题   5、只靠数据来说话   6、使用了未来的信息   7、抛弃了不该忽略的案例   8、轻信预测   9、试图回答所有问题   10、随便地进行抽样   11、太相信最佳模型 1 缺乏数据   对于分类问题或预估问题来说,常常缺乏准确标注的案例。    认真、仔细、有条理是数据挖掘人员的基本要求。   预报(Forecast)示例:预报芝加哥银行在某天的利率,使用神经网络建模,模型的准确率达到95%。但在模型中却使用了该天的利率作为输入变量。    11 太相信最佳模型 IDMer:还是那句老话-“没有最好,只有更好!”   可解释性并不一定总是必要的。看起来并不完全正确或者可以解释的模型,有时也会有用。   

    58550发布于 2018-03-09
  • 来自专栏博文视点Broadview

    挖掘11亿用户背后的产品逻辑之美

    腾讯最新发布的财报显示,微信月活用户突破11亿!这意味着,在中国,除了小孩儿和年龄很大的老人,几乎每个人都是微信用户,几乎人人都是网民! ? 作为一份时代产品经理的知识清单,书共分为四个部分,11个章节: 第一部分是新时代产品经理进阶需要掌握的基础知识,包括信息架构、数据分析和机器学习。 第二部分是关于用户的知识,包括用户运营和用户中心。

    57610发布于 2020-06-10
  • 来自专栏生信技能树

    2023-11(数据挖掘马拉松)答疑汇编

    关心什么结果,是要结合自己的课题/实验设计,生物学背景,研究方向等等,更多的是和导师交流,参考一下相关文献等等。

    41810编辑于 2024-01-11
  • 来自专栏用户画像

    相似人群画像算法

    一、数据源 1、相似人群数据存在TDW库中,数据字典说明: CREATE TABLE sim_people_tdw_tbl( uid STRING COMMENT 'reader id', ', update_date STRING COMMENT 'update_date' ) 字段 类型 含义 uid string 用户标识 sim_uids string 与uid喜好相似的人群 相似人群字典表 :return: 相似度最高的相似人群 """ user_similarity_list = sorted(cluster_dic.iteritems(), key :群画像某个维度的特征 :param user_dimension:用户某个维度的特征 :param ratio:user的权重,公式为相似度/(相似度+10),区间为(1/3,10/11 : 相似人群的相似度字典表 :return: 相似人群画像字典表 """ cluster_profile_rs = {} for sim_user_obj in sim_users_profile_array

    2.6K61发布于 2018-07-19
  • 来自专栏机器学习、深度学习

    人群密度估计

    该网络在几个常用的公开人群密度估计数据库上取得了不错的效果。 1 Introduction 拥挤场景解析的发展从简单的人群数值估计到 人群密度图估计,人群密度图可以提供额外的信息,因为同样数量的人可以分布在不同的位置,如下图所示 ? 生成准确的人群分布图挑战性比较大,其中一个主要的困难就是离散化的问题,人在图像中不是只占用一个像素,密度图需要保持局部邻域的连续性。其他的困难包括场景的多样性,相机角度的多样性。 以前基于CNN网络的人群密度估计主要采用了 multi-scale architectures,虽然取得了不错的性能,但是存在两个问题:当网络变深的时候, the large amount of training 人群密度估计从方法上来说可以分为三大类:detection-based methods, regression-based methods, and density estimation-based methods

    1.7K30发布于 2019-05-26
  • 来自专栏华章科技

    干货 :数据挖掘中易犯的11大错误

    11大易犯错误——Elder博士 0. 缺乏数据(Lack Data) 1. 太关注训练(Focus on Training) 2. 认真、仔细、有条理是数据挖掘人员的基本要求。 预报(Forecast)示例:预报芝加哥银行在某天的利率,使用神经网络建模,模型的准确率达到95%。但在模型中却使用了该天的利率作为输入变量。

    29220发布于 2018-08-13
  • 来自专栏机器学习、深度学习

    人群分析、人群计数 开源代码文献及数据库

    Scale-adaptive Convolutional Nerual Network https://github.com/miao0913/SaCNN-CrowdCounting-Tencent_Youtu 人群分析 Towards perspective-free object counting with deep learning ECCV2016 https://github.com/gramuah/ccnn 人群计数 Density Estimation for Crowd Counting AVSS 2017 https://github.com/svishwa/crowdcount-cascaded-mtl 人群计数 /hosseinm/med Panic,Fight,Congestion,Obstacle ,Neutral 人群异常检测 Anomaly Detection and Localization in Crowded Scenes 数据库 http://www.svcl.ucsd.edu/projects/anomaly/ 人群分析 Deep Spatio-Temporal Residual

    2.1K70发布于 2018-01-03
  • 来自专栏PPV课数据科学社区

    大数据挖掘中易犯的11大错误

    按照Elder博士的总结,这11大易犯错误包括: 0.缺乏数据(LackData) 1.太关注训练(FocusonTraining) 2.只依赖一项技术(RelyonOneTechnique) 3.提错了问题 认真、仔细、有条理是数据挖掘人员的基本要求。   预报(Forecast)示例:预报芝加哥银行在某天的利率,使用神经网络建模,模型的准确率达到95%。但在模型中却使用了该天的利率作为输入变量。   

    71870发布于 2018-04-20
  • 来自专栏新智元

    Lookalike算法教你用深度学习挖掘高相似度人群

    Lookalike会对种子人群各个维度的特征(人口基础属性、社交属性、行为属性等)进行全方位分析。 效果和规模之间达成“帕累托最优”(最理想状态)显得相对棘手——随着流量数量的增大,人群的聚焦性也必然逐步降低,寻找目标人群的难度加大,致使非目标人群的比例也随着流量的增加而增加。 而Lookalike技术通过大数据分析和复杂模型学习归纳高质量人群的人口特征,然后在更大的流量范围内找具有类似人口特征的人。 Lookalike技术成今年腾讯广告算法大赛主题,探索更多新算法和应用 腾讯社交广告早在 2013 年开始调研探索 Lookalike 技术,设计基于种子用户画像和关系链寻找相似人群,即根据种子人群的共有属性进行自动化扩展 因此在商业应用的时就需要一个逐步探索扩展的过程,而不是一次性扩展大量人群。在广告投放上这种需求更加迫切,如果扩展人群数过多必然导致精准性差,反之则会影响广告的曝光展示量。

    3.3K20发布于 2018-06-22
  • 来自专栏张叔叔讲互联网

    人群数据如何对外输出

    比如用户希望在Push平台上针对指定人群下的所有用户推送消息,此时可以使用画像平台接口拉取人群数据;在七夕活动中,运营人员投放使用了多个人群,为了分析不同人群的转化效果,此时需要将人群结果的Hive表提供给数据分析师使用 拥有数据表权限的用户理论上可以读取到所有人群下的用户数据,如果部分人群数据比较敏感(比如充值用户人群、日活用户人群),就需要严格控制Hive表的读取权限。 可以通过人群下载等平台功能将人群数据导出到临时Hive表中供业务使用,这样可以避免上述三类问题的发生。对外提供人群数据的服务接口主要有两个:获取人群基本信息接口和获取人群BitMap接口。 获取人群基本信息接口主要用于查询人群基本信息,其中包括人群名称、用户数量、人群状态、创建者、创建规则等,该接口可以使用缓存来提高接口性能。 当业务方需要感知人群状态变化时,可以定期调用人群基本信息接口,对比人群前后状态就可以知道人群状态是否变更。比如在Push平台上置了一个定时更新人群,当人群数据更新后需要再次给人群下的用户推送消息。

    72150编辑于 2023-10-23
  • 来自专栏机器学习AI算法工程

    受众行为分析与人群定向

    明白了这一点,也就触摸到了人群定向的天花板–不可能百分之百精准。 如何从广泛的受众中提炼目标人群呢? 正是依靠受众行为分析。 下面我们以易传媒的广告投放算法为例,浅析一下怎样由预先标注的关键词标签,一步步建立完整的受众行为分析模型,挖掘出具有相似行为特征的人群,提炼人群的属性特征,最终进行最合适的广告投放的。 这得有请在计算机届鼎鼎有名的数据挖掘工:聚类(Clustering)。聚类是一个将数据集划分为若干类的过程。聚类的宗旨和评判标准是使得同类对象相似度尽可能大,而各个类之间的相似度尽可能小。 这个人群就是经过多道工序处理之后,数据挖掘工最终给我们淘出的亮灿灿的金子。 人群定向投放 作为人群定向广告正式投放前的最后一步,受众聚类和结构化的人群分类将进行匹配映射。这种映射是利用二者标签集合的重合度来实现的。

    2.5K70发布于 2018-03-14
  • 来自专栏灯塔大数据

    必看 :大数据挖掘中易犯的11大错误

    认真、仔细、有条理是数据挖掘人员的基本要求。 预报(Forecast)示例:预报芝加哥银行在某天的利率,使用神经网络建模,模型的准确率达到95%。但在模型中却使用了该天的利率作为输入变量。

    67370发布于 2018-04-09
  • 来自专栏机器学习、深度学习

    人群计数--Mixture of Counting CNNs

    of CNNs Specialized to Specific Appearance for Crowd Counting https://arxiv.org/abs/1703.09393 本文是人群计数的 ,不是人群密度估计。 这里主要的思路是针对不同场景的 scale and congestion 造成图像块的 Appearance 差别很大,这里我们使用多个小 CNN 来估计总人群。 另外适应一个大点的 CNN 对 图像块进行分类,这种分类主要依据人群密度大小。类别的概率作为每个小 CNN 的权重。 Appearance 的差异性 ?

    71370发布于 2018-01-03
  • 选址、调研所需周边人群画像怎么获取?区域人群画像分布API接入指南!

    在传统商业决策中,有多少资源因“目标人群”画像模糊而被浪费?多少营销活动因缺乏精准人群触达而效果不佳?多少市场调研因无法获取核心客群画像数据,导致策略偏离实际? 区域人群画像分布APIAPI介绍:查询指定区域内得人群基础画像(共11类画像数据);从标准开发文档中的关键参数,即可看出其灵活性与实用价值:Body参数从Body参数可知,你可以自由选择不同季度(Q1~ 此外,你还能选择10类人群,获取其11类画像数据,涵盖基础画像(如年龄、性别)和各种偏好画像(如消费、兴趣),全面覆盖人群分析所需维度。 API获取指南及应用案例这个API主要来源是一个新上线的数据开放平台,提供很多人群、客流类 API(人群热力图、人群画像、客流趋势、客流画像等),比较小众,但包含的API还是很实用的。 若您的业务也需构建人群画像、区域洞察或客流分析等能力,“区域人群画像分布API”将是理想选择。

    34510编辑于 2025-10-17
领券