保险数据资产

解锁保险数仓新姿势：大数据平台如何“神助攻”保险行业数字化转型的浪潮在当今数字经济蓬勃发展的时代，保险行业正处于数字化转型的关键时期。随着大数据、云计算、人工智能等新兴技术的不断涌现和广泛应用，保险行业的发展模式和服务方式正在经历深刻变革。数字化转型涵盖保险业务的各个环节，无论是前台业务的客户体验优化，中台业务的流程自动化与智能化，还是后台业务的数据分析与决策支持，都离不开数据的支撑。在这个过程中，数据作为新型生产要素，已成为保险行业数字化转型的核心驱动力，其重要性不言而喻。它不仅是实现精准营销、优化产品定价、提升风险管理水平的关键，更是保险企业在激烈市场竞争中脱颖而出的制胜法宝。在这样的背景下，大数据平台构建保险数仓成为保险行业数字化转型的关键举措。通过构建保险数仓，能够整合保险企业内外部的海量数据，打破数据孤岛，实现数据的集中管理和共享。为保险企业的业务决策、产品创新、客户服务等提供全面、准确、及时的数据支持，助力保险企业在数字化浪潮中实现高质量发展。大数据平台为保险数仓带来的变革强大的数据整合能力大数据平台能够整合多源数据，打破数据孤岛，为保险数仓提供全面的数据支持。在保险

解锁保险数仓新姿势：大数据平台如何“神助攻”保险行业数字化转型的浪潮在当今数字经济蓬勃发展的时代，保险行业正处于数字化转型的关键时期。随着大数据、云计算、人工智能等新兴技术的不断涌现和广泛应用，保险行业的发展模式和服务方式正在经历深刻变革。数字化转型涵盖保险业务的各个环节，无论是前台业务的客户体验优化，中台业务的流程自动化与智能化，还是后台业务的数据分析与决策支持，都离不开数据的支撑。在这个过程中，数据作为新型生产要素，已成为保险行业数字化转型的核心驱动力，其重要性不言而喻。它不仅是实现精准营销、优化产品定价、提升风险管理水平的关键，更是保险企业在激烈市场竞争中脱颖而出的制胜法宝。在这样的背景下，大数据平台构建保险数仓成为保险行业数字化转型的关键举措。通过构建保险数仓，能够整合保险企业内外部的海量数据，打破数据孤岛，实现数据的集中管理和共享。为保险企业的业务决策、产品创新、客户服务等提供全面、准确、及时的数据支持，助力保险企业在数字化浪潮中实现高质量发展。大数据平台为保险数仓带来的变革强大的数据整合能力大数据平台能够整合多源数据，打破数据孤岛，为保险数仓提供全面的数据支持。在保险

的管理建设理论，推出更适合金融数据资产管理建设的建设方案。宇信干从勇表示，与领先大数据平台厂商星环合作让数据资产管理体系建设成为可能。圆桌论坛活动现场，来自恒丰银行、厦门银行、新网银行、太平保险公司现身说法，分享银行、保险行业的成功案例，更有星环科技新产品介绍和前沿技术分享，与会嘉宾满载而归。01、大数据技术发展趋势介绍星环科技创始人、CEO孙元浩率先登台，为大家解析了大数据技术发展趋势。大数据、交通等行业，推动诸多企业实现数字化转型。04、太平保险-大数据建设经验分享太平金科数据分析平台负责人许崇涛认为，传统保险行业在大数据建设过程面临以下6大挑战：数据量增长迅速、数据时效性要求高、用户数多并发高、保险业务逻辑复杂、小机闪存成本高昂、IT架构复杂。而基于大数据平台的应用能力，将保险行业与大数据、人工智能等技术结合，利用大数据平台的分布式计算能力可以为原系统大大减轻负担，提升业务处理效率有用的信息形成分析后的模型。10、金融大数据资产管理建设实践宇信科技大数据业务部部门经理干从勇向大家介绍了金融大数据资产管理建设实践。金融行业数据体系建设已持续近15年，传统数据管理体系的建设模式在

，规划和管理数据的安全和合规性要求，确保数据的合规存储和使用。数据资产目录在实际应用中有着广泛的应用域，涉及多个行业和岗位。比如，在金融行业中，数据资产目录可以帮助银行或保险公司更好地管理客户数据数据资产目录是一个企业中管理和组织数据资产的重要工具。随着大数据时代到来，企业需要统一管理其海量的数据资产，以便更好地实现数据的共享、管理和价值的挖掘。数据资产目录用于集中和组织企业中的数据资产。通过记录和描述各类数据资产的基本属性，包括数据源、数据类型、结构、数据质量等信息，帮助企业快速定位和使用所需数据。数据资产目录可以结构化地管理大量数据，提供全面和准确的数据资产信息，使企业能够更加高效地进行数据的发现、利用和协作。数据资产目录在企业中的作用主要体现在以下几个方面：数据资源全面掌握：通过建立数据资产目录，企业可以全面掌握自身拥有的类数据资源。它能够将分散在各个部门和系统中的数据资产进行整合和统一管理，为企业的数据决策提供全局视图，减少数据孤岛的存在。数据共享和协同利用：数据资产目录提供了企业内部各类数据资的详尽信息，使得企业能够更加便捷地找到并共享数据，提高数据的利用率。同时，资产

，规划和管理数据的安全和合规性要求，确保数据的合规存储和使用。数据资产目录在实际应用中有着广泛的应用域，涉及多个行业和岗位。比如，在金融行业中，数据资产目录可以帮助银行或保险公司更好地管理客户数据数据资产目录是一个企业中管理和组织数据资产的重要工具。随着大数据时代到来，企业需要统一管理其海量的数据资产，以便更好地实现数据的共享、管理和价值的挖掘。数据资产目录用于集中和组织企业中的数据资产。通过记录和描述各类数据资产的基本属性，包括数据源、数据类型、结构、数据质量等信息，帮助企业快速定位和使用所需数据。数据资产目录可以结构化地管理大量数据，提供全面和准确的数据资产信息，使企业能够更加高效地进行数据的发现、利用和协作。数据资产目录在企业中的作用主要体现在以下几个方面：数据资源全面掌握：通过建立数据资产目录，企业可以全面掌握自身拥有的类数据资源。它能够将分散在各个部门和系统中的数据资产进行整合和统一管理，为企业的数据决策提供全局视图，减少数据孤岛的存在。数据共享和协同利用：数据资产目录提供了企业内部各类数据资的详尽信息，使得企业能够更加便捷地找到并共享数据，提高数据的利用率。同时，资产

，规划和管理数据的安全和合规性要求，确保数据的合规存储和使用。数据资产目录在实际应用中有着广泛的应用域，涉及多个行业和岗位。比如，在金融行业中，数据资产目录可以帮助银行或保险公司更好地管理客户数据数据资产目录是一个企业中管理和组织数据资产的重要工具。随着大数据时代到来，企业需要统一管理其海量的数据资产，以便更好地实现数据的共享、管理和价值的挖掘。数据资产目录用于集中和组织企业中的数据资产。通过记录和描述各类数据资产的基本属性，包括数据源、数据类型、结构、数据质量等信息，帮助企业快速定位和使用所需数据。数据资产目录可以结构化地管理大量数据，提供全面和准确的数据资产信息，使企业能够更加高效地进行数据的发现、利用和协作。数据资产目录在企业中的作用主要体现在以下几个方面：数据资源全面掌握：通过建立数据资产目录，企业可以全面掌握自身拥有的类数据资源。它能够将分散在各个部门和系统中的数据资产进行整合和统一管理，为企业的数据决策提供全局视图，减少数据孤岛的存在。数据共享和协同利用：数据资产目录提供了企业内部各类数据资的详尽信息，使得企业能够更加便捷地找到并共享数据，提高数据的利用率。同时，资产

，规划和管理数据的安全和合规性要求，确保数据的合规存储和使用。数据资产目录在实际应用中有着广泛的应用域，涉及多个行业和岗位。比如，在金融行业中，数据资产目录可以帮助银行或保险公司更好地管理客户数据数据资产目录是一个企业中管理和组织数据资产的重要工具。随着大数据时代到来，企业需要统一管理其海量的数据资产，以便更好地实现数据的共享、管理和价值的挖掘。数据资产目录用于集中和组织企业中的数据资产。通过记录和描述各类数据资产的基本属性，包括数据源、数据类型、结构、数据质量等信息，帮助企业快速定位和使用所需数据。数据资产目录可以结构化地管理大量数据，提供全面和准确的数据资产信息，使企业能够更加高效地进行数据的发现、利用和协作。数据资产目录在企业中的作用主要体现在以下几个方面：数据资源全面掌握：通过建立数据资产目录，企业可以全面掌握自身拥有的类数据资源。它能够将分散在各个部门和系统中的数据资产进行整合和统一管理，为企业的数据决策提供全局视图，减少数据孤岛的存在。数据共享和协同利用：数据资产目录提供了企业内部各类数据资的详尽信息，使得企业能够更加便捷地找到并共享数据，提高数据的利用率。同时，资产

，规划和管理数据的安全和合规性要求，确保数据的合规存储和使用。数据资产目录在实际应用中有着广泛的应用域，涉及多个行业和岗位。比如，在金融行业中，数据资产目录可以帮助银行或保险公司更好地管理客户数据数据资产目录是一个企业中管理和组织数据资产的重要工具。随着大数据时代到来，企业需要统一管理其海量的数据资产，以便更好地实现数据的共享、管理和价值的挖掘。数据资产目录用于集中和组织企业中的数据资产。通过记录和描述各类数据资产的基本属性，包括数据源、数据类型、结构、数据质量等信息，帮助企业快速定位和使用所需数据。数据资产目录可以结构化地管理大量数据，提供全面和准确的数据资产信息，使企业能够更加高效地进行数据的发现、利用和协作。数据资产目录在企业中的作用主要体现在以下几个方面：数据资源全面掌握：通过建立数据资产目录，企业可以全面掌握自身拥有的类数据资源。它能够将分散在各个部门和系统中的数据资产进行整合和统一管理，为企业的数据决策提供全局视图，减少数据孤岛的存在。数据共享和协同利用：数据资产目录提供了企业内部各类数据资的详尽信息，使得企业能够更加便捷地找到并共享数据，提高数据的利用率。同时，资产

，规划和管理数据的安全和合规性要求，确保数据的合规存储和使用。数据资产目录在实际应用中有着广泛的应用域，涉及多个行业和岗位。比如，在金融行业中，数据资产目录可以帮助银行或保险公司更好地管理客户数据数据资产目录是一个企业中管理和组织数据资产的重要工具。随着大数据时代到来，企业需要统一管理其海量的数据资产，以便更好地实现数据的共享、管理和价值的挖掘。数据资产目录用于集中和组织企业中的数据资产。通过记录和描述各类数据资产的基本属性，包括数据源、数据类型、结构、数据质量等信息，帮助企业快速定位和使用所需数据。数据资产目录可以结构化地管理大量数据，提供全面和准确的数据资产信息，使企业能够更加高效地进行数据的发现、利用和协作。数据资产目录在企业中的作用主要体现在以下几个方面：数据资源全面掌握：通过建立数据资产目录，企业可以全面掌握自身拥有的类数据资源。它能够将分散在各个部门和系统中的数据资产进行整合和统一管理，为企业的数据决策提供全局视图，减少数据孤岛的存在。数据共享和协同利用：数据资产目录提供了企业内部各类数据资的详尽信息，使得企业能够更加便捷地找到并共享数据，提高数据的利用率。同时，资产

ThistutorialwillguideyouthroughthefollowingtaskswithinHippoCloud:EstablishingatablePerusingthetableIncorporatingdataExecutingsearchoperationsEliminatingrowsDissolvingthetableBeforeyoustartInthisguide,wewillbeutilizingthePythonAPI.Priortocommencement,ensurethatyouhave:RegisteredforaHippoCloudaccount.SubscribedtothecomplimentaryplanandestablishedatrialclusterwithinHippoCloud,orsubscribedtothestandard/enterpriseplansandconstructedadedicatedcluster.IfyouanticipateemployingPythonfordevelopment,ascert...

本节介绍Hippo表写入相关操作。Hippo会返回写入成功数据的下标以及总共写入成功的数据条数，如果出现行级错误（比如主键冲突），Hippo会返回具体的行级错误。插入本节介绍如何向Hippo中插入数据。curl-ushiva:shiva-XPUT'localhost:8902/hippo/v1/{table}/_bulk?database_name={database_name}&pretty'-H'Content-Type:application/json'-d'{"fields_data":[{"field_name":"book_id","field":[1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16,17,18,19,20,21,22,23,24,25,26,27,28,29,30,31,32,33,34,35,36,37,38,39,40,41,42,43,44,45,46,47,48,49,50,51,52,53,54,55,56,57,58,59,60,61,62,63,64,65,66,67,68,69,70,71,72,73,74...

查看Master节点通过以下命令，查看集群Master节点信息：curl-ushiva:shiva-XGET'localhost:8902/hippo/v1/_cat/master?v'返回结果：epochtimestampactive.master.hostactive.master.portmaster.group169079683909:47:19172.29.203.18926841172.29.203.189:26841,172.29.203.189:26851,172.29.203.189:26861查看数据节点curl-ushiva:shiva-XGET'localhost:8902/hippo/v1/_cat/nodes?v'//查看所有节点curl-ushiva:shiva-XGET'localhost:8902/hippo/v1/_cat/nodes/{node}?v'//{node}表示待匹配的节点地址，支持以*通配，支持指定多个pattern，多个pattern以逗号分割返回结果：

运维管理界面WebserverWebserver是Hippo提供运维监控的界面。默认访问地址为:4567"class="bare">http://<webserver_ip>:4567。或者在Manager管理界面我们可以通过下图所示的查看链接这里进行跳转。图15.登录HippoWebserverWebserver主要由下面几个部分构成。概况图16.概况该页面展示了Hippo集群的基本信息，包括：Masterstatus：当前的ActiveMaster，MasterGroup，MasterAddress，Master的健康状态TabletServerStatus：TabletServerAddress，健康状态，逻辑机架和数据中心信息，容量使用以及Tablet个数TabletNum：当前集群表的个数Version：Hippo版本信息库表图17.库表页面以库和表的概念集群存储的各类数据信息。库信息：库名库创建时间库内各类表的信息：点击某个库，可以看到库下所有表的信息，主要包括：••表的ID••表的名字••表的状态••表的Tablet数量••表的Engine类型••表的副本数•...

Hippo在1.2版本提供了全文索引能力，兼容ElasticSearch6.7.2语法，在底层架构上复用了公司产品TranswarpScope的一部分特性，支持以Java/HTTPRestful的形式通过Hippo的HTTPServer接口进行全文索引的创建、查询、使用等各类需求，通过该能力的支持，可以更好的实现向量与全文的混合检索。通过将向量检索加全文检索的联合召回，可以降低漏检和误检的概率，能够实现比单独使用向量或全文更高的精度。同时，一套数据库系统可避免部署多套系统带来的架构复杂、开发运维成本高等问题。具体的使用方法除了访问端口需要将端口从8902调整为9200外，均可参考《TranswarpScope手册》4.TranswarpScopeAPI介绍。

过滤条件表达式Hippo当前支持如下表达式，可用于标量或向量查询。表46.过滤条件表达式表达式描述and当前版本支持and，不支持or/not==等值<小于⇐小于等于>大于>=大于等于inin[1,2,3]notinnot_in[1,2,3]like'_'表示匹配任一字符，'%'表示匹配任意字符，'\'为转义符向量相似性检索本节描述如何进行向量相似度搜索。Hippo中的向量相似性搜索计算查询向量与表中向量的距离，返回最相似的结果集。通过指定标量过滤条件，用户可以进行向量与标量的混合搜索。curl-ushiva:shiva-XGET'localhost:8902/hippo/v1/{table}/_search?pretty'-H'Content-Type:application/json'-d'{"output_fields":["book_id"],"search_params":{"anns_field":"book_intro","topk":2,"params":{"nprobe":10},"embedding_index":"ivf_flat_index"}...

OverviewAclusterisaHippoCloudinstanceassociatedwithspecificcomputingresources.Youcancreaterelatedtables,insertcorrespondingdata,andcompleteproductexperiencewithinacluster.Beforeyouusethedemoenvironment,youneedtocreateacluster.CreateClusterYouneedtogotothespecificproject.Iftherearenoclustersunderthecurrentproject,youcanclickthe'Createcluster'buttonbelowtheclustercreationguidancepagetoentertheclustercreation.Ifthereareclustersunderthecurrentproject,youcanclickthe'+Cluster'buttonabovetheclusterlist...

本节测试主要描述了Hippo1.0在关键测试上的一些性能表现，该份测试同样也是Hippo的基准测试，后续版本发布也会在不同版本上进行该测试进行对比分析。术语表142.Hippo性能测试术语TermDescriptionnq一次搜索请求中搜索的向量个数topk一次请求中对于要检索的每个向量(依赖nq)，所能检索到最近距离的向量个数RT一次请求从发起到接受响应的时间]QPS请求在每秒内成功执行的次数dataset测试所用数据集，不同数据集表示不同的业务场景测试集群配置硬件配置表143.性能测试硬件配置硬件规范Nodes3CPUIntel®Xeon®Gold5218RCPU@2.10GHzMemory16*\16GBRDIMM,3200MT/sDISKNVMeSSD2T*4GPUNONE软件配置表144.性能测试软件配置软件版本Hippov1.2TranswarpManagerTDH9.3.0测试集表145.性能测试数据集数据集名称数据集介绍向量维度向量总数查询数量数据总量距离类型Sift-128-euclidean该数据集是基于Texmex的数据集整理，使用SIFT算法得到的图片特征向量。...

OverviewUnstructureddatamanagementismoreimportantthaneverduetotheriseofbigdata.Managingandgleaningbusinessvaluefromunstructureddataisofutmostimportancetoenterprisestoday.Advancementsinmachinelearning,aswellasdeeplearning,technologiesnowenableorganizationstoefficientlyaddressunstructureddataandimprovequalityassuranceefforts.Inthefieldofartificialintelligenceormachinelearning,embeddingsandvectordatabaseshavebecomeincreasinglyimportantfortacklingawiderangeofproblems.Thesetechniquesareusedtorepresen...

在Hippo中，比较耗时的操作如激活、加载向量索引实际上是一个分布式任务，用户可以通过任务相关接口查看、删除任务。查看任务curl-ushiva:shiva-XGET"localhost:8902/hippo/v1/_jobs?pretty"-H'Content-Type:application/json'-d'{"job_ids":["fc6feff4f303455a9347f9aab323dfc8"],"action_patterns":["hippo*"]}';返回结果：{"jobs":[{"job_id":"810935a1d91a46b7af2ec35013454fed","job_status":"SHIVA_JOB_SUCCESS","embedding_number":100,"task_results":[{"id":"54ab52493dfb4bab9fb7742d850c64c4","status":"TASK_SUCCESS","server":"172.29.40.26:27841","embedding_number":100,"execute_time":...