同时,数据分析软件市场迅速攀升。根据IDC的数据,2021年,全球在大数据和业务分析解决方案上的支出增长10.1%,达到2157亿美元。许多公司正在积极招聘数据科学家和数据分析师实现“数据驱动的决策”。
Gartner的研究人员得出结论:“数据和分析越来越成为业务战略的主要驱动力,数据驱动的业务战略和信息产品的潜力比以往任何时候都大。”据该研究公司称,到2023年,在垂直和特定领域数据挖掘技术的推动下,整体分析采用率将从35%增加到50%。
鉴于数据分析趋势在现代企业中发挥的重要作用,有必要研究一下“什么是数据分析?”以及为什么它很重要以及未来的趋势是什么。接下来我们将谈论以下几个问题:
- 什么是数据分析
- 数据科学与数据分析
- 数据分析的类型
- 为什么数据分析很重要
- 数据分析的好处
- 数据分析的趋势
一 、什么是数据分析
数据分析是分析数据趋势获取知识和洞察力以做出更好决策的过程。这个复杂的过程由数据分析师和数据科学家以及非技术人员协作进行的。该过程通常从原始数据开始,这些数据经过数据挖掘,寻求有价值的洞察力——事实上,竞争优势是业务数据分析的主要目标。
可以肯定的是,数据分析的定义与其他一些技术定义相比变化较小,主要是因为专家一致认为数据分析几乎涵盖了组织可能对原始数据执行的任何操作。例如,Gartner将数据分析定义为“对所有用途(运营和分析)的数据进行管理,并对数据进行分析,以通过更有效的决策制定和增强的客户体验来推动业务流程并改善业务成果。”
这些定义基本涵盖现代企业中常见的活动。数据分析主要包括以下内容:
(1) 数据挖掘
数据挖掘是将原始数据转化为业务可用信息的过程。最常见的方法是通过各种数据挖掘软件来寻找数据中的模式。数据挖掘是数据分析的子集。此外,数据挖掘是人工智能和机器学习的基础组件。多年来已经开发了许多技术来实际应用和实践数据挖掘。每种技术都建立在跟踪一组数据中的模式的基本思想之上。可以根据项目的重点和研究的深度持续优化数据挖掘方法。例如,可以使用关联来简单地关联多个因变量,可以深入研究并利用异常值和异常检测来筛选大型数据集并发现任何异常。
(2) 文本分析
大多数文本分析利用人工智能驱动的自然语言处理(NLP)来解释人类语言。人工智能、机器学习和数据分析的最新发展使得计算机系统从文档中的结构化和非结构化数据中提取含义的能力显着增强。
(3) 数据可视化
数据可视化工具通过以图形形式(包括图表、图形、迷你图、信息图、热图或统计图)表示数据,在数据分析中发挥着重要作用。以视觉形式呈现的数据易于理解和分析,即使是非技术利益相关者也可以做出更有效的实时决策
(4) 商业智能
商业智能工具可以快速的实现可视化报告、深度数据挖掘、自动化、预测帮助和其他关键能力。
(5) 数据目录
数据目录工具可自动发现整个企业系统中的数据源。它使用元数据管理功能来组织数据,显示不同数据之间的关系,启用搜索和跟踪数据沿袭,即发现数据的来源。同时,包括数据治理功能并支持业务用户的自助服务,有些还包括词汇表,以便用户对术语有共同的理解。大多数现代数据目录工具依赖人工智能 (AI)和机器学习 (ML)功能。
(6) 数据仓库
数据仓库工具是大数据和数据分析中的关键组件。数据仓库是为分析软件提供数据的智能数据存储库,允许用户进行数据挖掘以获得竞争洞察力。数据仓库通常位于大型数据存储库(如数据库)和数据集市之间。数据仓库软件通常与ETL 工具一起使用,支持从商业智能到预测分析的各种报告和分析。
(7) 数据湖
数据湖是一个存储库,以原始格式保存大量原始数据,直到处理完毕。与使用文件夹、行和列等分层数据结构的结构化数据仓库不同,数据湖是一种平面文件结构,可在输入数据时保留数据的原始结构。湖中的每个数据元素都被分配了一个唯一的标识符,并使用一组扩展的元数据标签进行标记。当有人根据某个元数据执行业务查询时,所有标记的数据都会被分析以用于查询或分析。数据湖存在的原因是因为每个人都在从各处收集大量信息,尤其是从物联网,他们需要将其存储在某个地方。历史存储介质是关系数据库。但是这些技术对于我们从各地收集的所有这些数据片段来说并不适用。
(8) 数据网格
数据网格正在成为一种帮助组织更好地处理快速增长的数据量、不断变化的应用程序需求和分布式处理场景的方法。可以将数据网格想象成一个横跨大型网络的网络,它连接本地和公共云中的多个位置、类型和数据源,并通过多种方法访问该数据以处理、移动、管理、并将数据存储在结构范围内。
(9) 数据建模
数据建模是将结构和方法应用于数据的过程,以便将其转换为有用的形式以进行分析和获得洞察力。通过准备信息系统中涉及的数据模型,可以优化数据库设计并了解信息系统中的数据流。一个好的数据模型是数据库中具体细节的抽象模型,例如数据如何捕获、数据如何在系统中流动、数据如何输入到各个表中,以及在存储数据之前对数据应用哪些检查和约束在数据库中。
(10) 人工智能(AI)
人工智能功能通常分为几个核心领域:机器学习(ML)、深度学习、预测分析、机器视觉、机器人流程自动化 (RPA)、智能助手和聊天机器人。
(11) 机器学习(ML)
机器学习是人工智能的一个子集,是计算机科学的一部分,专注于创造以人类思维方式思考的计算机。换言之,所有机器学习系统都是人工智能系统,但并非所有人工智能系统都具备机器学习能力。
可以将机器学习细分为几个不同的类别:
- 监督学习需要提供哪些输入与哪些输出一致的示例。例如,如果想使用监督学习来教计算机识别猫的图片,你会提供一大堆图像,其中一些被标记为“猫”,一些被标记为“不是猫”。” 机器学习算法将帮助系统学习概括概念,以便它可以识别以前从未遇到过的图像中的猫。
- 无监督学习要求系统从给定的数据集中得出自己的结论。例如,如果您有大量在线销售数据,可以使用无监督学习来查找这些数据之间的集群或关联,从而帮助您改进营销。例如,您可能会发现 1980 年初出生、收入超过 5 万美元的女性对特定品牌的巧克力棒有浓厚的兴趣,或者购买特定品牌苏打水的人也会购买特定品牌的薯片。
- 半监督学习是有监督学习和无监督学习的结合。回到猫的例子,假设你有大量的图像,其中一些被标记为“猫”和“非猫”,而另一些则没有。半监督学习系统将使用标记的图像来猜测哪些未标记的图像包括猫。然后最好的猜测将被反馈到系统中,以帮助它提高其能力,并且循环将继续。
- 强化学习接收类似于惩罚和奖励的反馈的系统。强化学习(适用于机器学习)的一个经典例子是坐在一排老虎机前的赌徒。起初,赌徒不知道哪些老虎机会得到回报或有多好,所以他尝试了所有老虎机。随着时间的推移,他发现有些机器设置得“更宽松”,因此它们的回报更频繁、金额更高。随着时间的推移,赌徒会通过更频繁地玩更宽松的机器来增加他的收入。
(12) 深度学习
深度学习是一种人工智能技术,它已经在模仿人类大脑的各个方面取得了进展,使设备能够处理信息以进行上下文分析和行动。深度学习将 ML 算法扩展到多层神经网络,以制作多层链接变量和相关决策的决策树。在自动驾驶汽车的例子中,前进会导致有关速度、是否需要导航障碍、导航到目的地等方面的决策。然而,这些后续决策可能会产生反馈,迫使人工智能重新考虑早期的决策并改变它们. 深度学习旨在模仿人脑,让我们通过被训练和通过多层近乎同时的决策来学习。
数据分析是研发、工程和战略规划不可或缺的一部分。当然,它是物流和供应链管理的核心。每年,分析在信息技术和网络安全中发挥着越来越大的作用。总而言之,几乎没有一个行业不是由数据分析驱动的。
如今,许多组织都有一名首席数据官,其职责是监督组织内数据管理的各个方面,包括数据分析和数据科学。
二 、数据科学与数据分析
尽管它们相似且密切相关,但是经常混淆,数据科学和数据分析并不是一回事。简而言之,数据分析是一门商业学科,而数据科学是一门技术学科。数据分析的目标是回答特定的业务问题,而数据科学的目标是准备、转换和组织数据,使其有用。数据分析需要深入了解特定业务领域,如金融或营销,而数据科学需要深入了解数学和技术学科,如统计建模和编程。
哈佛商业评论认为,“数据分析是指分析数据以回答问题、提取见解和识别趋势的过程和实践。数据科学的核心是构建、清理和组织数据集。”
数据分析师检查大型数据集以识别趋势、开发图表并创建可视化演示文稿,以帮助企业做出更具战略性的决策。数据科学家使用原型、算法、预测模型和自定义分析来设计和构建数据建模和生产的新流程。
在实践中,数据科学家和数据分析师经常密切合作,甚至可能是组织内同一团队的一部分。
三、数据分析的类型
并非所有数据分析都是相同的。大多数专家将数据分析分为四种关键类型:
(1) 描述性分析
描述性分析描述了过去发生的事情或当前正在发生的事情。这种类型的分析可以回答诸如谁、什么、何地、何时以及如何等问题。例如,显示过去四个季度每月销售额的销售报告就是描述性分析的一个示例。这是最容易执行的分析类型,但对组织的价值有限。但是不能忽略它,因为描述性分析是更高级分析类型的必要基础。
(2) 诊断性分析
诊断分析会告诉您发生某事的原因。例如,如果描述性分析告诉上个季度的销售额下降,那么诊断分析将帮助找出问题所在。这种类型的分析通常涉及组合多个数据集,以对组织的情况进行更全面和准确的评估。也许销售下降是因为供应链问题或恶劣天气,或者是因为雇用新的销售人员后失去了一个关键客户。诊断分析可以帮助弄清楚这一点。
(3) 预测性分析
预测分析可帮助您了解接下来可能发生的事情。它着眼于历史趋势,寻找能够洞察未来的模式。预测分析工具通常依赖于先进的数据模型和机器学习技术,这些技术可以提炼影响过去绩效的重要因素并将其应用于当前情况。这是一种更先进、更具投机性的分析形式,具有很高的潜在价值。它正在成为一种非常普遍的工具,尤其是对于大型企业而言。
(4) 规范性分析
规范性分析试图告诉您应该如何应对未来可能发生的事情。例如,如果预测分析预测下个季度的销售额会下降,那么规范性分析可以帮助了解如果降低价格或更改营销策略或从不同供应商处采购产品,情况可能会发生怎样的变化。显然,规范分析的潜在好处非常高,但做好规范分析也非常困难。目前,很少有组织拥有大规模进行规范性分析的资源和能力。
大多数组织从描述性分析开始他们的数据分析。随着时间的推移,它们扩展到诊断分析,然后是预测分析。许多人渴望最终拥有一个成功的规范性分析程序,以更好地为他们的业务决策提供信息。
四、为什么数据分析很重要
大多数专家都同意,数据分析对现代组织非常重要,因为它可以帮助组织变得更有竞争力。Forrester说:“数据是改善客户体验和运营效率的关键,这反过来又推动了公司的成功。释放数据的全部潜力依赖于可靠的数据分析。”
出于多种原因,组织进行数据分析和数据科学计划。使用数据分析做的一些最常见的事情包括:
(1) 更好地了解客户
大多数组织都可以访问有关其客户的各种数据,包括人口统计、订单历史、客户服务互动、社交媒体、浏览历史、调查回复等。聘请数据分析师来分析这些数据可以帮助公司更全面地了解每个客户以及他们的客户作为一个整体的总体情况。此外,它可能会突出更好地满足客户需求或接触新买家群体的机会。
(2) 简化业务运营
组织内有许多流程,从接单、到履行、到供应链管理、到客户服务、再到 IT 运营等等,都是可以衡量的。任何可以衡量的东西,都可以改进。数据分析可以帮助跟踪关键绩效指标 (KPI) 的进展,并帮助识别当今可能拖慢组织速度的瓶颈。
(3) 识别新的机会
数据分析中更有趣的领域之一是空白分析学科。这种做法有助于组织识别今天没有做但他们未来可以做的业务。它可以帮助寻找新的客户、新产品和新的合作伙伴,从而增加收入和利润。
(4) 利用现有趋势
即使是最基本的数据可视化,也可以轻松查看 KPI 的移动方向和速率。通过识别这些趋势,通常是通过原始数据筛选,可以做更多运作良好的事情,并尝试纠正错误的事情。
(5) 营销活动更有效
营销是被数据分析改变最多的商业学科之一。由于如此多的营销活动以数字方式进行,营销团队拥有大量可用数据,可以帮助他们确定哪些目标最有可能成为客户,哪些客户可能再次购买,哪些客户有转投竞争对手的危险等等。他们经常使用数据可视化来帮助数据挖掘以获得业务洞察力。
(6) 改进定价策略
如果仅将价格提高 1% 就可以将组织的整体利润提高多达 10%,那会怎样?分析可以帮助您分析变量。数据分析可以帮助定价团队确定他们应该在哪里提高价格(以及应该在哪里降低价格)以最大限度地提高盈利能力。
(7) 做出更好的决定
人类总是倾向于出于情感原因做出决定,通常基于先入为主的观念,这些观念可能是真实的,也可能不是真实的。数据分析为这种本能提供了强有力的检查,以便企业领导者可以看到他们的直觉反应是否可能导致成功。在非常广泛的意义上,数据分析可以帮助企业改进整个组织的决策。
五、数据分析的好处
数据分析支持的所有这些活动的最终结果通常在组织的底线中可见。商业领袖表示,数据分析可以帮助他们:
- 通过简化业务运营、调整技术支出规模、改善库存管理和更好地与供应商谈判来降低成本。
- 通过快速识别新产品机会、改进开发流程、加快测试速度和提高整体质量来加快上市时间。
- 通过更好地满足客户需求并为客户服务代理提供所需的工具、培训和支持来提高客户满意度。
- 通过改进产品供应、加强营销工作和授权销售人员来增加销售额。
- 通过降低成本和优化价格来增加利润。
- 通过分析历史数据和使用机器学习来实现预测性和规范性分析,提高预测的准确性。
六、数据分析的趋势
在接下来的几年里,数据分析的使用几乎肯定会继续显著增长。然而,并非所有组织都能通过其分析工作取得成功。
简而言之,分析现在至关重要。Gartner说:“到 2025 年,80% 寻求扩展数字业务的组织将失败,因为他们没有采用现代方法进行数据和分析治理。”
除了数据治理,其他值得关注的主要趋势包括:
- 人工智能和机器学习。许多最复杂的数据分析形式,包括预测性和规范性分析,都依赖于人工智能和机器学习能力。随着这些技术的进步,分析将变得更加强大。
- 合成数据。 隐私法规通常会限制组织可以直接对客户数据执行的分析量。解决这个问题的方法之一是使用合成数据,它是匿名的,通常由数据模型和算法生成。
- 多种分析解决方案和中心。 大多数大型企业发现没有单一的分析解决方案可以满足整个组织的所有需求。专家表示,最成功的公司很可能是那些找到创新方法来结合其各种分析解决方案和数据存储的公司。
从长远来看,掌握这些趋势以及通过数据分析工作确定的趋势的组织可能是最成功的。