-
生态环境大数据分析应用示范平台总结
所属栏目：[大数据] 日期：2021-01-06 热度：163
生态环境大数据分析应用示范平台总结 1、前言 这个项目从2015年12月开始到2016年11月结束，历时一年，一年的时间有接近八个月的时间我待在呼和浩特。经历了冷暖交替，基本熟悉了当地的饮食生活习惯，结束的时候真有点依依不舍。这是第一个独立负责完成的项[详细]
-
Elastic Stack （ELK 5）- 运维数据分析系统
所属栏目：[大数据] 日期：2021-01-06 热度：154
概述 本文将简单介绍运维数据分析系统 Elastic Stack，并描述其基础部署过程。 简介 ELK（Elasticsearch + Logstash + Kibana）用于日志集中分析系统，Elasticsearch 用于存储、搜索、分析数据，Logstash 用于接收并处理数据，Kibana 提供 Web UI 管理数据[详细]
-
Thinking in BigData（六）大数据技术核心之ETL
所属栏目：[大数据] 日期：2021-01-06 热度：114
? 前几篇文章都是根据自己所见所知，在前人的基础上加以整合，对大数据概念有了初步的了解。接下来的四篇文章，抛开大数据的概念与基本知识，进入核心。我们从：数据采集、数据存储、数据管理、数据分析与挖掘，四个方面讨论大数据在实际应用中涉及的技术[详细]
-
利用UDW构建企业级数据仓库和BI系统
所属栏目：[大数据] 日期：2021-01-06 热度：84
背景 随着大数据应用的发展与普及，越来越多的企业认识到企业运行中所产生数据本身也是一种高价值资产。并且，商业智能在企业的经营与决策中所扮演的角色，既可以是操作层中的数据指导，也可以是战术层与战略层上的决策顾问。 商业智能——即Business Inte[详细]
-
布尔财经想做金融领域的今日头条，并从信息中挖掘交易机会
所属栏目：[大数据] 日期：2021-01-06 热度：179
布尔财经可以提供200多个单一主题的回归测试，平均准确率也在60%左右。在选股方面，布尔财经的模型可以做到在题材股爆发行情中段给出信号，帮助投资者获取爆发行情末段的超额收益。 文 | 老扎 上世纪七十年代美国宇航局NASA裁员缩减开支，一大批火箭科学家[详细]
-
AndroidNative层文件解析漏洞挖掘指南
所属栏目：[大数据] 日期：2021-01-06 热度：54
| 导语?本文以手Q的一次文件解析类漏洞挖掘为例，叙述了Android Native层文件解析类型漏洞挖掘的过程 手Q这个应用从功能来说十分的庞大，如果使用类似MFFA的框架去挖掘文件解析类漏洞，效率低，而且文件入口在哪儿、如何利用脚本进行自动化都是非常大的问[详细]
-
大数据处理：关于hadoop
所属栏目：[大数据] 日期：2021-01-06 热度：116
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。 [1]??Hadoop实现了一个分布式文件系统（Hadoop Distributed File System），简称HDFS。HDFS有[详细]
-
51nod 1029 大数除法
所属栏目：[大数据] 日期：2021-01-06 热度：93
java大法过的。。。。 import java.util.*;import java.math.*;public class acm {public static void main(String[] args){BigInteger a,b,c,d;Scanner input=new Scanner(System.in); while(input.hasNextBigDecimal()){ a=input.nextBigInteger(); b=in[详细]
-
51nod 1028 大数乘法 V2
所属栏目：[大数据] 日期：2021-01-06 热度：134
标准做法是FFT，偷懒用了java。。。 import java.util.*;import java.math.*;public class acm {public static void main(String[] args){BigInteger a,b;Scanner input=new Scanner(System.in); while(input.hasNextBigDecimal()){ a=input.nextBigIntege[详细]
-
leetcode 43. Multiply Strings 9大数相差（java实现）
所属栏目：[大数据] 日期：2020-12-31 热度：50
原题： Given two non-negative integers? num1 ?and? num2 ?represented as strings,return the product of? num2 . Note: The length of both? num2 ?is 110. Both? num2 ?contains only digits? 0-9 . Both? num2 ?does not contain any leading zero.[详细]
-
分享 ：2017年商业智能 BI 发展趋势分析
所属栏目：[大数据] 日期：2020-12-31 热度：195
在展望2017年商业智能 BI 发展趋势前，我们先来了解一下商业智能?BI?发展的几个重要阶段。 传统 BI 和新型 BI 的分水岭（2013年） 大背景 在2013年以前相当长的一个周期（2005年-2013年），市场主要流行的商业智能BI产品以?SAP BO、Oracle BIEE、IBM Cogno[详细]
-
大数据分析当人们谈《鬼吹灯》时，都谈些什么？
所属栏目：[大数据] 日期：2020-12-31 热度：89
文 | 艾漫数据 近日，又一部考古探险题材网剧火热上线，老干部靳东搭档陈乔恩主演的《鬼吹灯之精绝古城》。相比之前同类型作品，这次的改编开播后的口碑可以用“交口称赞”形容，上线两周后好评率达到87%以上。 小编不禁好奇，究竟是什么样的内容，引得观[详细]
-
[bigdata-022] hive和impala的对hbase的精细order by操作
所属栏目：[大数据] 日期：2020-12-31 热度：69
1. 要用hive给hbase的表创建一个外部表。不能用impala，因为它在这块有缺陷。 2. 在hive创建一个本地表，注意，一定不要创建在hbase上。 3. 在hive里，执行order by命令，对外部表进行排序，然后将排序结果写入到2创建的hive本地表。这时候，因为order by[详细]
-
大数据分析相关
所属栏目：[大数据] 日期：2020-12-31 热度：137
类比: 谈谈互联网后端基础设施 www.rowkey.me/blog/2016/08/27/server-basic-tech-stack/ 文件系统: ??? hdfs 数据库: ?? hbase 计算系统: ?? hive sql管理和定时执行平台: ??? 阿里宙斯zeus.(自称调度,并没有资源协调功能,有hive本身完成) 统计分析和展现[详细]
-
使用 R 语言挖掘 QQ 群聊天记录
所属栏目：[大数据] 日期：2020-12-31 热度：127
1、获取数据 从 QQ 消息管理器中导出消息记录，保存的文本类型选择 txt 文件。这里获取的是某群从 2016-04-18 到?2016-05-07 期间的聊天记录，记录样本如下所示。 2、数据预处理 打开 R 软件，先通过 File—Change dir 切换到聊天文件所在目录。 引入包：[详细]
-
自从有了BI商业智能系统，再也不用担心我的作图了！！！（图文）
所属栏目：[大数据] 日期：2020-12-31 热度：129
最近使用spotview商业智能系统，简单的一点体验分享一下。 这是一个金蝶公司合作的产品，纯B/S架构，设计页面和展示端，现在这已经是不可抵挡的趋势了。只有后台设计模型是需要在服务器上做，类似于数据库里做视图，只要将有关联表的字段用线连接起来就OK[详细]
-
视音频数据处理入门：AAC音频码流解析
所属栏目：[大数据] 日期：2020-12-31 热度：192
===================================================== 视音频数据处理入门系列文章： 视音频数据处理入门：RGB、YUV像素数据处理 视音频数据处理入门：PCM音频采样数据处理 视音频数据处理入门：H.264视频码流解析 视音频数据处理入门：AAC音频码流解析[详细]
-
视音频数据处理入门：PCM音频采样数据处理
所属栏目：[大数据] 日期：2020-12-31 热度：141
===================================================== 视音频数据处理入门系列文章： 视音频数据处理入门：RGB、YUV像素数据处理 视音频数据处理入门：PCM音频采样数据处理 视音频数据处理入门：H.264视频码流解析 视音频数据处理入门：AAC音频码流解析[详细]
-
使用R语言挖掘QQ群聊天记录
所属栏目：[大数据] 日期：2020-12-31 热度：164
数据挖掘入门与实战 ?公众号： datadw 1、获取数据 从 QQ 消息管理器中导出消息记录，保存的文本类型选择 txt 文件。这里获取的是某群从 2016-04-18 到?2016-05-07 期间的聊天记录，记录样本如下所示。 2、数据预处理 打开 R 软件，先通过 File—Change di[详细]
-
[bigdata021- python3转换json数据的单引号双引号注意点]
所属栏目：[大数据] 日期：2020-12-31 热度：200
在py3里，一个json是一个字典，形如 {"a":15} 那么，如果你要将它转换成字符串，也许你用的是str({"a":15})，这样转出来的，可能是是s= "{'a':'15'}"，也就是说，里面的kv是单引号的。这个字符串，传到其他地方，再用json.loads(s)的时候会出错，json不支[详细]
-
推荐 ：0岁数据分析师的入门指南
所属栏目：[大数据] 日期：2020-12-31 热度：187
初入数据分析行业的同学或还在门口徘徊想要从事数据分析职业的同学常常会比较困惑，非常迫切地想要知道作为一个数据分析师，到底需要掌握那些技能，这里笔者作为过来人给到大家一点建议。（注意这里适用的是互联网行业的数据分析师，不一定适合传统行业。[详细]
-
电商数据分析：用七句话学会用数据监控类目销售
所属栏目：[大数据] 日期：2020-12-31 热度：189
要想全盘掌握商品的销售情况，用数据监控类目是最科学的，标准化且可复制。具体怎么做？ 本文作者总结了七句话：销售是目标、毛利是根本、商品为核心、供应牢把控、行为是金矿、新品是未来、订单是纽带。理解这七句话，并付诸实践，将每句话都拆解成具体的[详细]
-
bzoj 3110 K大数查询 整体二分
所属栏目：[大数据] 日期：2020-12-31 热度：104
#includecstdio#includeiostream#define maxn 50005#define LL long longusing namespace std;int n,m;struct Que{ int op,l,r,x,id; void read() { scanf("%d%d%d%d",op,l,r,x); if(op==1) x+=n+1; }}q[50005];Que q1[maxn],q2[maxn];int ans[maxn];struc[详细]
-
[bigdata-020]用python3+pymogo 操作 mongodb数据库
所属栏目：[大数据] 日期：2020-12-31 热度：162
1. 安装pymongo pip install pymongo 2. 写一个例子 #!/usr/bin/env python3#! coding:utf-8 -*-import pymongoimport timeclient = pymongo.MongoClient('localhost',27017)db = client.get_database('user-behavior-data')print(db.name)backend = db.ge[详细]
-
这5种必知的大数据处理框架技术，你的项目到底应该使用其中的哪
所属栏目：[大数据] 日期：2020-12-31 热度：121
大数据是收集、整理、处理大容量数据集，并从中获得见解所需的非传统战略和技术的总称。虽然处理数据所需的计算能力或存储容量早已超过一台计算机的上限，但这种计算类型的普遍性、规模，以及价值在最近几年才经历了大规模扩展。 本文将介绍大数据系统一个[详细]
浙公网安备 33038102330554号