CDH集群迁移

张表和脚本，百TB级别数据量，这里我们对其中完整逻辑做了抽象，精简的过程便以理解迁移过程。CDH集群信息硬件信息节点数3CPU40核/节点内存256G/节点磁盘12*1.7T/节点软件信息软件版），之后我们就可以在TBAK的可视化界面通过简单的“三步”来实现CDH到星环TDH的平滑迁移。TranswarpBackup(TBAK）是星环的大数据平台数据备份恢复软件，可独立于生产集群与备份集群、迁移。三步实现CDH到星环TDH的平滑迁移Step1配置CDH和TDH集群该步骤主要是用来配置CDH和TDH集群，为后续数据迁移做准备。星环TBAK提供可视化的界面进行集群配置，我们根据界面指引式向导，我们就可以获取到配置文件。之后我们需要对各服务进行配置并测试连接，在该案例场景中使用的是HDFS，HBase和Hive。TDH集群配置同样，我们对TDH集群进行相应配置。Step2创建CDH迁移方案当CDH和TDH集群配置完成后，我们就可以配置CDH到TDH的迁移方案了。根据该案例CDH的业务情况，我们需要分别对CDHHive，HDFS和HBase的迁移方案进行配置。创建CDHHive迁移方案以

CDH的替换解决方案：大数据平台的新选择在大数据技术快速发展的今天，曾经的主流大数据平台，正面临前所未有的挑战。随着云计算、容器化等新技术的普及，企业开始寻求更灵活、更具成本效益的CDH替代方案。CDH的局限性CDH作为传统大数据平台的代表，在架构设计上存在明显不足。其复杂的组件依赖关系导致部署和维护成本居高不下，版本升级过程繁琐且风险较大。在云原生时代，CDH的架构难以充分利用容器化技术带来的优势，资源利用率较低。此外，CDH的许可成本较高，对于中小型企业来说负担较重。技术架构方面，CDH采用集中式架构，难以满足现代企业对弹性扩展的需求。其组件更新速度较慢，无法及时集成最新的开源技术成果成本。迁移风险评估则需要制定详细的迁移计划和回滚方案。实施路径通常包括三个阶段：评估规划阶段、试点迁移阶段和全面实施阶段。每个阶段都需要明确的目标和评估标准。实践建议包括：建立跨部门迁移团队、制定详细的测试计划、做好数据备份和验证等。大数据平台的演进不会停止，未来的趋势将更加注重智能化、自动化和服务化。企业需要保持技术敏感度，持续评估和优化自身的大数据架构。选择合适的CDH替代方案，不仅是为了解决当前问题，更是为未来的数据驱动创新奠定基础。

HDP3将是CDH和HDP的后企业版本，用户无法继续获取新的功能和性能提升。企业版不再服务至2022年3月份，CDH/HDP全部EoS，用户没办法获取售后支持：来源：Cloudera官网迁移方向方向一工信部代码自主研发率扫描测试。同时TDH完成了与主流信创生态厂商的适配互认工作，满足信创验收要求。CDH/HDP迁移到TDH将获得的能力数据库能力支持SQL2003标准，兼容Oracle、DB2、稳定性、灾备与可靠性、安全性、自主可控、国产生态、解决方案、售后服务等多方面对比各迁移方向，供用户参考。兼容性兼容性，直接决定迁移成本。很多客户认为CDP是CDH/HDP的高版本，应可以平滑升级没有很好解决方案。星环科技TDHTDH基础存储和计算组件兼容CDH/HDP，迁移成本低；TDH提供迁移工具，数据一键迁移；大量迁移成功案例，不存在迁移风险。技术领先性TDH产品技术始终领先于同类型产品远程技术支持，专业性不足。迁移案例某通信集团该集团核心业务系统存量数据10PB级别，每日增量数TB，批处理作业数千个，数据量大，业务价值高。原有系统使用CDH+Oracle混合架构，CDH有近200

大数据平台需要在数据存储格式、计算模型、接口等方面与CDH兼容，以确保原有数据和应用能够顺利迁移。比如部分国产平台的文件系统与CDH的HDFS在数据块大小、存储策略等方面存在差异，需要进行数据格式转换和参数调整。数据迁移：企业使用CDH积累了大量数据，将这些数据安全、高效地迁移到国产化平台是一大挑战。要解决数据一致性、完整性问题，还要尽量减少对业务的影响。例如，在迁移海量的实时流数据时，如何保证数据不丢失、不重复，并且在迁移过程中实时业务能够正常运行。应用适配：基于CDH开发的众多数据应用，如数据分析工具、数据挖掘算法等，需要在国产化平台上重新进行适配和调优。可能涉及到代码修改、参数调整等工作。同时，准备好数据迁移工具和相关技术手段。迁移阶段：先进行小规模的数据和应用迁移试点，验证迁移方案的可行性和有效性。在试点成功的基础上，按照既定的迁移计划，逐步将CDH上的数据和应用迁移到国产化平台国产化大数据平台替换CDH是企业实现自主可控、保障数据安全和满足合规要求的重要举措，以下为你介绍一些相关的案例、难点、注意事项和步骤：替换难点技术兼容性：CDH有其特定的技术架构和生态体系，国产化

Oracle、IBMDB2、Teradata，降低了用户从传统数据库的迁移成本，具备国产化替代的能力。此外，TDH提供存储过程支持，降低开发大型复杂数据业务系统的技术门槛。统一的计算引擎CDH使用CDH是Cloudera的开源平台发行版，通过将Hadoop与其他十几个开源项目集成，为企业大数据业务提供服务。在CDH开源大数据方案中，是通过多个互相独立的组件提供相应的能力，每个场景需要一个组件，需要另外单独部署如开源图数据库Neo4j，为了实现时序数据存储分析，需要另外单独部署开源时序数据库InfluxDB等等。在复杂场景下，CDH需要多个组件配合完成，多个组件的开发语言和接口基本完全引起计算资源竞争等问题。总体来说，CDH拼凑起来的散装架构复杂度高，客户新业务开发、业务需求变更开发成本很高，运维成本也很高，数据流转和融合分析等数据处理效率低。CDH散装架构跨模型分析方案下面我们来举个数据库中实现多种数据模型（例如关系表、文本和图片）的统一存储管理，一个SQL就可以实现不同数据模型的操作和查询，模型转化流转以及跨模型关联分析，解决了不同模型数据之间的组合使用问题。与CDH散装架构相比

CDH是Cloudera的开源平台发行版，通过将Hadoop与其他十几个开源项目集成，为企业大数据业务提供服务。DH拼凑起来的散装架构复杂度高，客户新业务开发、业务需求变更开发成本极高，运维成本也操作和查询，模型转化流转以及跨模型关联分析，解决了不同模型数据之间的组合使用问题。与CDH散装架构相比，TDH统一的多模型架构具有复杂度低、开发成本低、运维成本低、数据处理效率高等优点。TDH相比CDH，不仅性能提升，具有更强的多模型拓展能力，并提供全套工具集，自主研发，实现国产软硬件兼容，满足信创要求。在搭建大数据平台时，选择TDH还是CDH，就变得简单了，是一目了然的事情。

迁移学习指运用已有的知识来学习新的知识的机器学习方法。例如，如果我们已经训练过一个图像分类器来识别猫和狗，那么我们可以将这个分类器迁移到另一个数据集，比如识别豹子和老虎，从而加快训练速度并提高模型准确率。这是因为同一领域的不同数据集之间可能存在共性，迁移学习可以利用这种共性来加速新任务的学习过程。另外，在数据量有限的情况下，迁移学习也可以利用已有知识来提高模型泛化能力。迁移学习方法一般可以分为样本选择、特征映射等方法来适应目标数据的特征分布。多任务学习：同时学习多个相关任务，并共享模型的一部分或全部。这种方法可以通过学习一个任务的知识来改善其他任务的性能。迁移学习的优势在于可以利用已有知识来减少新任务的数据需求，提高模型的泛化能力和训练效率。然而，迁移学习也面临一些挑战，比如领域差异较大时的知识偏移问题和如何选择合适的迁移策略等。因此，在应用迁移学习时需要综合考虑数据、任务及模型等因素来选择适当的方法。

数据迁移是指将数据从一个存储系统或计算环境转移到另一个存储系统或计算环境的过程。这个过程不仅包括数据的传输，还涉及数据的选择、准备、提取和转换。数据迁移的目标是高效、快速地移动数据，以避免或最大限度减少对业务运营的干扰。应用领域数据迁移在多个领域有广泛的应用，以下是一些常见的应用场景：系统升级或更换：当企业需要升级现有系统或更换到新的系统时，需要将数据从旧系统迁移到新系统，以确保数据的连续性和可用性。数据中心迁移：企业可能需要将数据从一个数据中心迁移到另一个数据中心，例如由于成本、地理位置、性能等原因。云迁移：将数据从本地环境迁移到云环境，或在不同的云提供商之间迁移数据，以利用云计算的优势。数据库迁移：由于技术或业务需求的变化，可能需要将数据从一个数据库迁移到另一个数据库，例如从关系型数据库迁移到非关系型数据库。应用程序迁移：将应用程序及其相关数据迁移到新的基础设施或平台，以提高性能、可扩展性或兼容性。个人电脑升级：例如，小硬盘换大硬盘，机械硬盘换固态硬盘，或换新电脑继续使用现有的系统和硬盘中的数据。数据迁移技术数据迁移技术是指在数据信息在不同阶段之间转换时，为保障系统不间断运行

记录中打榜的基本都是CDH和HDP等Hadoop发行版产品，星环科技TDH此次跑通TPCx-BB并成为全球第一，表明其对CDH、HDP等具有高度兼容性。TDH基础存储和计算组件兼容CDH/HDP，迁移成本低，同时提供便捷的迁移工具，实现数据一键迁移。目前，TDH已有大量成功替换CDH/HDP案例。软硬件深度融合，为用户提供更高性价比的选择星环科技通过将企业级大数据平台软件和硬件深度结合，实现计算第一。TDH此次成功打榜并登顶大数据测试基准TPCx-BB，代表着国产大数据平台在全球大数据领域的又一次突破，也意味着星环科技TDH对Hadoop体系大数据平台（CDH为代表）具有高兼容性，能够实现科技的大数据技术迈向新的高度。从测试结果可以看出，国产大数据平台TDH通过常规服务器配置（CPU配置低于记录中的其他案例），性能提升了139%，具备超高性能的同时也体现了大规模集群下，性能可以线性扩展大规模“一数多芯”专项评测，在10000节点X86、ARM混合部署集群下，湖仓数据集成、计算、存储、数据治理以及其他湖仓能力等五大能力域均满足云原生湖仓一体测试要求，成为首个通过该专项评测的数据产品

近年来，企业数据安全问题的重要性被提上了前所未有的高度。星环科技提供了从云基础设施、数据平台、数据资源、数据应用的数据安全能力。覆盖数据生命周期的各个阶段，涉及数据的收集、存储、使用、加工以及开放流通。全方位保障企业的数据安全，支撑业务合法合规的开展。星环科技凭借全面的数据安全能力助力某支付机构构建安全防线的落地实践。该支付机构拥有大量数据资产，目前机构面临着较大的挑战，需要加强数据安全管理，为此，机构决定与星环科技合作，利用星环科技的技术来提升数据安全管理能力，共同打造一个基于隐私计算的数据服务平台DaaS。根据客户需求，星环科技在基础设施层提供了基于容器的云原生操作系统TCOS，可以为用户提供独立的数据与计算环境，减少数据对外暴露的风险。在数据平台层，星环科技大数据基础平台TDH新版本增强了安全技术，支持行列级权限控制、动态脱敏等。在数据资产层，星环科技借助两款新产品：数据安全管理平台Defensor帮助企业构建整个数据安全管理域及数据流通平台Navier：包含隐私计算平台SophonP²C和数据交易门户datamall，提供包括联邦学习和差分隐私等技术能力。该支付机构的数据管理平...

星环科技作为一家企业级大数据基础软件开发商，在图计算领域深耕多年，有着深厚的技术积淀和丰富的实践经验。星环科技自主研发的分布式图数据库StellarDB，兼容openCypher查询语言，提供海量图数据的存储和分析能力，支持原生图存储结构，支持万亿边PB级数据存储。同时，StellarDB具备毫秒级点边查询能力，10+层的深度链路分析能力，提供近40种的图分析算法，具备数据2D和3D展示能力。StellarDB克服了海量关联图数据存储的难题，通过集群化存储和丰富算法，实现了传统数据库无法提供的低延时多层关系查询，目前已经用于金融、政府、交通等众多行业，用于反洗钱、风险控制、营销等多种场景。同时StellarDB还获得了多项行业权威认可：入选信通院2022大数据十大关键词“图计算平台”代表厂商；通过了中国信通院图数据库和图计算平台基础能力两项专项测评；入选著名咨询机构Gartner《中国数据库市场指南》、《工具：中国数据库管理系统供应商甄选》报告等，彰显了其产品技术领先性。如今，5G、物联网、AI等技术的发展应用让数据呈指数倍增长，为图数据库发展提供了更广阔的应用空间。顺势而为，乘势而上...

为解决AI落地难的问题，星环科技从用户需求端出发，研发了一款基于云原生架构的企业级AI能力运营平台SophonMLOps，助推AI模型落地。SophonMLOps是基于云原生架构构建的企业级AI能力运营平台，聚焦于机器学习模型全生命周期中的模型管理、模型部署、模型监控预警、模型评估和模型迭代等关键环节。通过统一纳管、统一运维、统一应用、统一监控、统一评估、统一解释，赋予企业客户易用、高效且安全可靠的AI能力运营服务，协助客户规模化管理日益增长的机器学习模型，提升模型使用效率，降低模型集成管理成本，控制模型生产环境风险。SophonMLOps针对企业AI运营的痛点，围绕企业AI模型接入、运营管理、持续训练的全生命周期，分别提供规模化集成管理、高效模型推理、模型监控预警、模型性能评估、隐私安全保障等功能，为企业的AI日常运营插上翅膀。SophonMLOps打通了AI的全生命周期，为企业的各类用户角色搭建了统一的AI协作平台。对于企业而言，MLOps规模化集成管理了多源异构的机器学习模型，并提供高效且保障隐私安全的模型推理、监控预警及性能评估服务；对用户而言，能感受到操作上的快捷，AI应用与...

在国产数据库产品方面，星环科技坚持自主研发与技术创新，打造了自主可控的高性能分布式数据库ArgoDB和分布式交易型数据库KunDB，以及分布式图数据库StellarDB等产品。KunDB具备较强的SQL兼容性，同时具备高可用、高并发、在线扩缩容、数据强一致性等能力，适用于操作型业务、高并发业务等场景。ArgoDB具备完整的SQL兼容性，同时具备高扩展、高可靠、多模型、存算解耦等能力，一站式满足数据仓库、实时数据仓库、数据集市、OLAP、联邦计算等场景。通过不断的打磨和对业务场景不断的落地实践，ArgoDB和KunDB已成为具有完全自主知识产权的成熟的国产数据库，能够为更多的客户提供高性能、高可靠、成熟的数据库产品服务，帮助用户应对智能数据时代海量数据的分析与探索。分布式图数据库StellarDB兼容openCypher查询语言，提供海量图数据的存储和分析能力，支持原生图存储结构，支持万亿边PB级数据存储。同时，StellarDB具备毫秒级点边查询能力，10+层的深度链路分析能力，提供近40种的图分析算法，具备数据2D和3D展示能力。星环科技StellarDB在金融、政府和社交网络等领域...

随着行业和技术领域的变化日新月异，从数据仓库、动态数仓，到数据湖，从新一代湖仓一体技术到可插拔数据库，概念的引入虽然简单，但如何做到更有效，更复杂的数据资产管理就考验着对生产能力和工艺过程的管理能力。星环科技认为数据中台是一种能力、是一种组织上的策略而不仅仅是一种技术架构，它是在信息化基础上建立的可编织和可复用的数据可分析能力，从而支撑企业数字化转型。星环科技的数据中台三中心、六能力、两个体系星环科技很早就在数据中台领域布局，结合星环科技全系产品的相关组件实现数据中台能力建设。星环科技把数据中台建设归纳为三中心、六能力、两个体系，这当中都会有星环科技产品作为支撑，从而保证企业能够快速实现，并搭建起数据中台，满足企业未来发展变化。数据存储、分析探索、业务赋能三中心第一，帮助企业构建存储中心，提升数据的汇聚和整合能力；第二，构建数据分析探索中心，专注于智能分析能力和实时计算能力的提升，推动智能推荐能力和全链路实时监测和保障能力；第三，构建业务赋能中心，提供统一的访问能力实现跨平台联邦，统一的访问层控制，确保数据安全可用，同时搭建统一的服务能力，面向多场景的服务应用支撑。安全和运维、数据和分...

双碳目标下，全国碳排放监测服务平台启动建设力争2030年前实现碳达峰、2060年前实现碳中和，我国明确提出“双碳”目标，充分彰显了在构建人类命运共同体进程中的大国担当。国家电网公司主动担当重要使命，提出“实现双碳目标，能源是主战场，电力是主力军，电网是排头兵”的战略部署，率先行动，发布《全国碳排放监测服务平台建设工作方案》。“双碳”目标的实现离不开科技支撑。《全国碳排放监测服务平台建设工作方案》指出，全国碳排放监测服务平台建设的总体目标是以电网数字化赋能和助力国家碳达峰碳中和，实现“电力看双碳”，“双碳看经济”，为国家碳排放统计核算体系建设、宏观调控政策制定、经济社会全面绿色转型发展等工作提供决策支持。平台建设需要解决以下问题：以数字化平台技术解决各省的地市、区县、重点行业碳排放数据维度不全面、核算方法不完善、碳核算体系不统一等方面的问题；强化数据应用，发挥好决策支撑作用，深挖电力大数据价值，开展“电力看环保”“电力看经济”等大数据应用。积极响应号召，星环科技打造碳排放监测服务平台解决方案星环科技作为大数据基础软件领域的代表性企业，有着高度的责任感和使命感，为响应“全国碳排放监测服务平...

时空数据库时空数据库是一种针对时空数据处理的数据库系统。它以时间和空间为基础，整合了空间信息和时间信息，能够对时空数据进行存储、查询和分析。时空数据库广泛应用于交通运输、城市规划、GIS等领域。分布式时空数据库分布式时空数据库是一种对时空数据进行存储和处理的数据库系统，通过分布式存储和分布式计算等技术，可以实现对大规模时空数据的高效处理和分析。与传统的集中式数据库系统不同，分布式时空数据库将数据存储在多个存储节点上，并将计算任务分配给多个计算节点来完成，从而极大地提高了时空数据的处理能力和可靠性。分布式时空数据库的出现，使得处理大规模时空数据成为了可能，也更好地满足了各个领域对时空数据深度分析的需求。星环分布式时空数据库-TranswarpSpactureSpacture是星环科技自主研发的一款面向空间、时空数据的存储与管理，集计算与存储为一体的分布式数据库产品，支持大规模矢量数据、时空轨迹数据的存储与计算，具有完备的数据查询、分析和挖掘能力，可用于时空查询分析、时空模式挖掘、时空轨迹聚类等时空轨迹数据分析场景，广泛应用于交通物流、城市管理、位置服务等场景。

星环科技致力于打造企业级大数据基础软件，具备大数据与云基础平台、分布式关系型数据库、数据开发与智能分析工具的软件产品矩阵，多年来深耕电力领域，覆盖电力产业“发-输-变-配-用”五大环节，为推动电力行业数字化转型做出了重要贡献。在国网上海电力智能配用电大数据应用系统建设项目中，基于星环科技大数据基础平台TDH构建的智能配用电大数据应用系统汇集了浦东1210平方千米的236万户的用电数据，高负荷738万千瓦，年用电量329亿度，占上海全网四分之一。集成的内外部数据源有10个，整个数据量到现在已经接近8个T了，台账的数据总量有29.14万条。在多元数据集成及大数据平台基础之上，应用系统实现了用电查询，电力地图等基础功能及用户用电行为分析，节电用电预测网架优化和错峰调度等业务应用。基于多源异构数据的关联解析，和海量用电负荷实际数据存储、索引，实现了用电查询的基础应用，包括230万用户，26000个台区，4000余中压馈线的基本台账及用电数据的快速查询，并可以进行用户用电画像、地图定位、供电范围等数据的查询，服务响应时间在三秒以内。此前，星环科技还曾凭借《星环科技电力智慧供应链智能决策平台建设方...

作为一家企业级大数据基础软件开发商，星环科技很早就在数据中台领域布局，结合星环科技全系产品的相关组件实现数据中台能力建设。星环科技把数据中台建设归纳为三中心、六能力、两个体系，这当中都会有星环科技产品作为支撑，从而保证企业能够快速实现，并搭建起数据中台，满足企业未来发展变化。其中，三中心分别是存储中心、分析探索中心、业务赋能中心；六能力包括数据汇聚能力、数据整合能力、智能分析能力、实时计算能力、统一访问能力、统一服务能力；两个体系则是安全和运维保障体系与数据和分析支撑体系。三中心、六能力、两个保障体系都构建在一个云底座之上，满足企业私有化或者混合云多云的部署形态，同时灵活组件式的可插拔式部署形态，能够帮助企业更迅速的起步，按规划分步完善数据中台建设。除了提供基础组件和相应的工具帮助客户快速构建数据中台之外，星环科技还提供咨询实施服务，可以为企业提供量身定制的“数据云基础设施+咨询服务的端到端产品+服务”的综合解决方案。在星环科技的咨询服务产品体系中，包括为企业构建中台的架构规划、应用规划，以及帮助企业实施建设数据底座、数据中台、数据仓库，以及数据治理服务，也包括了数据的分析、业务分析、...

图数据库的应用场景非常广泛，可以应用于各个行业。以下是一些常见的应用场景：金融：在金融领域，图数据库可以帮助银行、保险公司等企业处理复杂的数据结构，支持欺诈检测、交易路由、投资组合分析等操作。社交网络：图数据库可以存储和处理社交网络中的复杂关系图谱和大量用户数据，支持好友推荐、社区发现、个性化内容推荐等操作。物流：在物流领域，图数据库可以帮助企业优化路径规划、物流运输等操作，加速发货、配送时间并提高效率。制造业：图数据库可以支持企业处理复杂的设备关系结构图，进行维修保养、设备性能分析、生产计划优化等操作。能源行业：在能源领域，图数据库可以处理复杂的电网、管道等结构图谱，并支持多种能源趋势分析和紧急事件监测等操作。电商：图数据库可以应用于电商业务中，存储和处理复杂的商品与用户之间的关系，支持个性化推荐、购物车分析、用户行为预测等操作。图数据库可以在各个领域中应用，并且在处理复杂的数据结构和大量的数据时比传统数据库具有更高的性能和效率。星环分布式图数据库StellarDB星环科技致力于打造企业级大数据基础软件，围绕数据的集成、存储、治理、建模、分析、挖掘和流通等数据全生命周期提供基础软件与...