手机apache安装与配置(ApacheDoris助力网易严选打造精细化运营DMP标签系统)

本文目录
- ApacheDoris助力网易严选打造精细化运营DMP标签系统
- 如何让apache以root身份运行
- 华为手机上网出现err_name是什么意思
- 我要申请软件著作权,手机APP运行的环境怎么写啊
- 手机淘宝的配置文件:apiCheConf有什么用可删除吗
- 必须要配合apache的服务是
ApacheDoris助力网易严选打造精细化运营DMP标签系统
导读:如果说互联网的上半场是粗狂运营,那么在下半场,精细化运营将是长久的主题,有数据分析能力才能让用户得到更好的体验。当下比较典型的分析方式是构建用户标签系统,本文将由网易严选分享DMP标签系统的建设以及ApacheDoris在其中的应用实践。
作者|刘晓东网易严选资深开发工程师
如果说互联网的上半场是粗狂运营,因为有流量红利不需要考虑细节。那么在下半场,精细化运营将是长久的主题,有数据分析能力才能让用户得到更好的体验。当下比较典型的分析方式是构建用户标签系统,从而精准地生成用户画像,提升用户体验。今天分享的主题是网易严选DMP标签系统建设实践,主要围绕下面五点展开:平台总览标签生产:标签圈选&生产链路标签存储:存储方式&存储架构演进高性能查询未来规划平台总览
DMP作为网易严选的数据中台,向下连接数据,向上赋能业务,承担着非常重要的基石角色。
DMP的数据来源主要包括三大部分:自营平台的APP、小程序、PC端等各端的业务日志网易集团内部共建的一些基础数据京东、淘宝、抖音等第三方渠道店铺的数据
通过收集、清洗,将以上数据形成数据资产沉淀下来。DMP在数据资产基础上形成了一套自己的标签产出、人群圈选和用户画像分析体系,从而为业务提供支撑,包括:智能化的选品、精准触达以及用户洞察等。总的来说,DMP系统就是构建以数据为核心的标签体系和画像体系,从而辅助业务做一系列精细化的运营。
了解DMP系统,先从以下几个概念开始。标签:对于实体(用户、设备、手机号等)特征的描述,是一种面向业务的数据组织形式,比如使用:年龄段、地址、偏好类目等对用户实体进行刻画。人群圈选:通过条件组合从全体用户中圈选出一部分用户,具体就是指定一组用户标签和其对应的标签值,得到符合条件的用户人群。画像分析:对于人群圈选结果,查看该人群的行为情况、标签分布。例如查看【城市为杭州,且性别为女性】的用户在严选APP上的行为路径、消费模型等。
严选标签系统对外主要提供两大核心能力:标签查询:查询特定实体指定标签的能力,常用于基本信息的展示。人群圈选:分为实时和离线圈选。圈选结果主要用于:分组判断:判读用户是否在指定的一个或多个分组,资源投放、触点营销等场景使用较多。结果集拉取:拉取指定的人群数据到业务方系统中,进行定制化开发。画像分析:分析特定人群的行为数据,消费模型等,进行更精细的运营。
整体的业务流程如下:首先定义标签和人群圈选的规则;定义出描述业务的DSL之后,便可以将任务提交到Spark进行计算;计算完成之后,将计算结果存储到Hive和Doris;之后业务方便可以根据实际业务需求从Hive或Doris中查询使用数据。
DMP平台整体分为计算存储层、调度层、服务层、和元数据管理四大模块。
所有的标签元信息存储在源数据表中;调度层对业务的整个流程进行任务调度:数据处理、聚合转化为基础标签,基础标签和源表中的数据通过DSL规则转化为可用于数据查询的SQL语义,由调度层将任务调度到计算存储层的Spark进行计算,并将计算结果存储到Hive和Doris中。服务层由标签服务、实体分组服务、基础标签数据服务、画像分析服务四部分组成。
标签的生命周期包含5个阶段:标签需求:在此阶段,运营提出标签的需求和价值预期,产品评估需求合理性以及紧迫性。排期生产:此阶段需要数据开发梳理数据,从ods到dwd到dm层整个链路,根据数据建立模型,同时数据开发需要做好质量监控。人群圈选:标签生产出来之后进行应用,圈选出标签对应的人群。精准营销:对圈选出来的人群进行精准化营销。效果评估:最后产品、数据开发和运营对标签使用率、使用效果进行效果评估来决定后续对标签进行改进或降级。
总的来说,就是以业务增长为目标,围绕标签的生命周期,投入合理的资源,最大化运营效果。标签生产
接下来介绍标签生产的整个过程。
标签的数据分层:最下层是ods层,包括用户登录日志、埋点记录日志、交易数据以及各种数据库的Binlog数据。对ods层处理后的数据到达dwd明细层,包括用户登录表、用户活动表、订单信息表等。dwd层数据聚合后到dm层,标签全部基于dm层数据实现。
目前我们从原始数据库到ods层数据产出已经完全自动化,从ods层到dwd层实现了部分自动化,从dwd到dm层有一部分自动化操作,但自动化程度还不高,这部分的自动化操作是我们接下来的工作重点。
标签根据时效性分为:离线标签、近实时标签和实时标签。
根据聚合粒度分为:聚合标签和明细标签。
通过类别维度可将标签分为:账号属性标签、消费行为标签、活跃行为标签、用户偏好标签、资产信息标签等。
直接将dm层的数据不太方便拿来用,原因在于:
基础数据比较原始,抽象层次有所欠缺、使用相对繁琐。通过对基础数据进行与、或、非的组合,形成业务标签供业务方使用,可以降低运营的理解成本,降低使用难度。
标签组合之后需要对标签进行具体业务场景应用,如人群圈选。配置如上图左侧所示,支持离线人群包和实时行为(需要分开配置)。
配置完后,生成上图右侧所示的DSL规则,以Json格式表达,对前端比较友好,也可以转成存储引擎的查询语句。
标签有一部分实现了自动化。在人群圈选部分自动化程度比较高。比如分组刷新,每天定时刷新;高级计算,如分组与分组间的交/并/差集;数据清理,及时清理过期失效的实体集。标签存储
下面介绍一下我们在标签存储方面的实践。
严选DMP标签系统需要承载比较大的C端流量,对实时性要求也比较高。
我们对存储的要求包括:支持高性能查询,以应对大规模C端流量支持SQL,便于应对数据分析场景支持数据更新机制可存储大数据量支持扩展函数,以便处理自定义数据结构和大数据生态结合紧密
目前还没有一款存储能够完全满足要求。
我们第一版的存储架构如下图所示:
离线数据大部分存储在Hive中,小部分存储在Hbase(主要用于基础标签的查询)。实时数据一部分存储在Hbase中用于基础标签的查询,部分双写到KUDU和ES中,用于实时分组圈选和数据查询。离线圈选的数据通过impala计算出来缓存在Redis中。
这一版本的缺点包括:存储引擎过多。双写有数据质量隐患,可能一方成功一方失败,导致数据不一致。项目复杂,可维护性较差。
为了减少引擎和存储的使用量,提高项目可维护性,在版本一的基础上改进实现了版本二。
我们第二版的存储架构如下图所示:
存储架构版本二引入了ApacheDoris,离线数据主要存储在Hive中,同时将基础标签导入到Doris,实时数据也存储在Doris,基于Spark做Hive加Doris的联合查询,并将计算出来的结果存储在Redis中。经过此版改进后,实时离线引擎存储得到了统一,性能损失在可容忍范围内(Hbase的查询性能比Doris好一些,能控制在10ms以内,Doris目前是1.0版本,p99,查询性能能控制在20ms以内,p999,能控制在50ms以内);项目简化,降低了运维成本。
在大数据领域,各种存储计算引擎有各自的适用场景,如下表所示:高性能查询
分组存在性判断:判断用户是否在指定的一个分组或者多个分组。包括两大部分:第一部分为静态人群包,提前进行预计算,存入Redis中(Key为实体的ID,Value为结果集ID),采用Lua脚本进行批量判断,提升性能;第二部分为实时行为人群,需要从上下文、API和ApacheDoris中提取数据进行规则判断。性能提升方案包括,异步化查询、快速短路、查询语句优化、控制Join表数量等。
还有一个场景是人群分析:人群分析需要将人群包数据同多个表进行联合查询,分析行为路径。目前Doris还不支持路径分析函数,因此我们开发了DorisUDF来支持此业务。Doris的计算模型对自定义函数的开发还是很友好的,能够比较好地满足我们的性能需要。
ApacheDoris在网易严选中已应用于点查、批量查询、路径分析、人群圈选等场景。在实践中具备以下优势:在点查和少量表的联合查询性能QPS超过万级,RT99《50MS。水平扩展能力很强,运维成本相对比较低。离线数据和实时数据相统一,降低标签模型复杂度。
不足之处在于大量小数据量的导入任务资源占用较多,不过此问题已经在Doris1.1版本中进行了优化,Doris在1.1中大幅增强了数据Compaction能力,对于新增数据能够快速完成聚合,避免分片数据中的版本过多导致的-235错误以及带来的查询效率问题。待Doris1.1.2版本正式发布后我们也会及时同步升级。
具体可以参考:ApacheDoris1.1特性揭秘:Flink实时写入如何兼顾高吞吐和低延时未来规划
提升存储&计算性能:Hive和Spark逐渐全部转向ApacheDoris。
优化标签体系:建立丰富准确的标签评价体系提升标签质量和产出速度提升标签覆盖率
更精准的运营建立丰富的用户分析模型从使用频次和用户价值两个方面提升用户洞察模型评价体系建立通用化画像分析能力,辅助运营智能化决策资料下载
如何让apache以root身份运行
输入命令“sudo cat /XXX/XXX/XXX”/xxx/xxx/xxx在使用中以文件路径替代。
cat 语法结构;
cat ...
选项
-A, --show-all 等价于 -vET
-b, --number-nonblank 对非空输出行编号
-e 等价于 -vE
-E, --show-ends 在每行结束处显示 $
-n, --number 对输出的所有行编号
-s, --squeeze-blank 不输出多行空行
-t 与 -vT 等价
-T, --show-tabs 将跳格字符显示为 ^I
-u (被忽略)
-v, --show-nonprinting 使用 ^ 和 M- 引用,除了 LFD 和 TAB 之外
--help 显示此帮助信息并离开
sudo是linux系统管理指令,是允许系统管理员让普通用户执行一些或者全部的root命令的一个工具。
华为手机上网出现err_name是什么意思
最常见原因是未连接到互联网或网络配置不正确,也可能是因为DNS服务器未响应或防火墙阻止了Google Chrome访问网络。
自动化框架工具Chef允许管理员从任意终端进行服务器网络配置。一旦服务器出现在网络配置上,Chef可以处理网络配置过程的其余部分,从配置更改到安装更新包。Chef是基于策略的自动化技术。策略来自定义,定义是存储在Chef服务器的。
通过定义连接到节点的运行列表,然后应用到一个网络配置节点上。Chef执行相应节点的定义,从定义上的配置列表,一次进行一个网络配置。如果定义安装Apache,Chef就会执行安装Apache。
相关信息
网络配置正确的做法是使用自动化的工具来关闭连接。但是一个uplink的“定义“可能会跨多个交换机使用,如果在初期的Chef”定义“网络配置不注意进行严格分类的话,这样会引起其他设备被修改,这也是Chef服务器在网络配置初期就必须完整考虑的问题。
网络配置框架的自动化仍然是网络设备的一个新特征。与任何新技术一样,大多数数据中心并不会开始全面部署这种让客户管理整个网络的结构。网络工程师可以先使用Chef管理软件方面的网络配置,或重复的配置任务,如NTP或认证服务器。
我要申请软件著作权,手机APP运行的环境怎么写啊
手机APP运行的硬件环境要求和PC电脑的硬件环境要求基本一样,就是经常看到手机配置的那些参数,写出运行APP所需要的最低硬件配置和手机操作系统版本要求。下面分安卓和苹果手机分别做一样例说明:
安卓版手机硬件环境要求
CPU:双核2GHz及以上;
机身内存:4G以上;
屏幕分辨率:1920x1080及以上;
操作系统:Android 4.0及以上版本。
苹果版手机硬件环境要求(苹果相对来说比较好限定)
iPhone机型:iPhone6及以上版本;
机身内存:16G以上;
操作系统:iOS 10.0及以上版本。
扩展资料
《计算机软件著作权申请表》的填写注意事项:
1、软件代码行:一定要填全部软件代码(无空格,无注释)的行数;
2、软件名称:一般应当以平台、软件、系统等名称为结尾;
3、硬件环境:填写软件运行的最小硬件环境,如内存、CPU、硬盘空间等;
4、软件环境:填写软件在什么操作系统平台上才能运行,操作系统平台还有什么额外的软件要求;
5、主要功能和技术特点:要分主要功能和技术特点两个方面写,不要缺漏;
6、著作权人信息:如果是多人著作完成,可以增加著作权人;
7、申请表盖章(企业申请) /签字(个人申请)。
手机淘宝的配置文件:apiCheConf有什么用可删除吗
***隐藏网址***
1、php中的配置文件中的斜杠正反都可以,但是在linux中只能为正斜杠/。
2、当修改过apache文件夹的时候,需要重启apache服务器。配置才能生效。
***隐藏网址***
***隐藏网址***
必须要配合apache的服务是
TOMCAT。Apache是世界使用排名第一的Web服务器软件,它可以运行在几乎所有广泛使用的计算机平台上该软件必须TOMCAT配合,APACHE才能支持JSP的运行,该软件强大的功能深受广大开发者喜欢。

更多文章:
人工智能大作业python(人工智能中的python怎么样呀)
2026年4月14日 18:30
做动画ae好还是animate好(动态logo 用ae和an哪个做更好,有什么区别)
2025年9月27日 03:00
distinctly同义词(distinctly是什么意思)
2025年7月19日 00:00
为什么需要fork函数(在什么情况下会用到linux系统中fork()函数,请举例说明)
2026年1月15日 10:15
socket编程linux(在Linux系统下编写一个socket程序)
2025年6月28日 17:45
reply的形容词(Looking forward to your immediately reply是不是有问题)
2026年9月20日 17:45
php执行过程(用PHP编写的一行行代码 是怎么在服务器端运行的)
2025年10月29日 14:15
韩国明星死亡大全排行榜(2021年去世的八位明星)?孙侨潞是单亲家庭吗
2025年7月8日 20:30
做pr视频的视频素材去哪下载?请问,哪里有免费的premiere素材下载,也就是常说的Pr素材,求广大的网友给个网站ԅ
2026年2月18日 15:30














