破解大数据背后的烦恼
时间:2019-02-28 14:08

  在“互联网+”浪潮下,我国银行业科技电子化转型卓有成效。相关统计数据显示,目前国内大型商业银行的电子渠道交易占比已超过80%。然而值得关注的是,电子渠道在成为现代商业银行新的战略性业务和利润增长点的同时,也为商业银行带来了新的挑战。

  “银行信息系统每天承载的交易量超两亿笔,峰值时可达到2.7亿笔。”青岛银行相关负责人形象地为记者比喻道,如果将每笔交易记录用表格录入保存,即使每一行只有一厘米,一个月的交易量记录也可绕地球赤道一圈半。

  在如此庞大的数据量背后,有着运维层次繁多、运维管理复杂的新型挑战。如何保障交易平稳运行,提升智能化运维水平,考验着银行业的智慧。

  近日,针对这一问题的研究获得了突破性进展,以青岛银行《数据科学技术在中小银行运维管理中的应用研究》课题获得银行业信息科技风险管理课题二类成果奖为标志,我国银行业在智能化运维的道路上迈出了坚实的一步。

  银行业业内人士普遍认为,随着我国社会经济活动的加速活跃,银行业信息系统的规模、信息处理容量以及业务量持续膨胀,其管理难度和复杂程度也在不断攀升,致使银行信息系统的生产运维和服务管理面临着前所未有的压力和挑战。

  事实上,在科技风险方面,银行业有其自身的特殊属性,主要表现为银行业具有高度集中的金融数据和客户数据、服务对象构成复杂、物理分布广泛、所提供服务与个人、企业乃至国民经济息息相关等。银行业信息系统服务一旦出现任何故障,所带来的危害和影响,远远不能仅用企业经济损失来度量。

  此外,相对于大型银行,中小银行还面临着资金投入有限、管理质量不高、对人工依赖性强等特色难题。在当今复杂多变的互联网环境下,如何进一步提升信息系统运维质量和效率、预知运维隐患、为业务的持续稳定运行提供高效可靠的技术保障,已逐渐成为银行业在数据时代必须深入思考、积极探索和亟待解决的重大课题。

  “从传统的IT运维升级到主动的智能运维,全面提升企业的智能化运维水平,是金融机构发展不可忽视的重要研究课题。”青岛银行负责人介绍,该行此次开展的课题中,以当今中小银行数据管理存在的运维问题作为研究背景,提出了“利用先进的数据科学技术进行运维数据智能化应用研究”的理念。

  “通过运维数据智能检索和导向式查询挖掘视图,帮助运维人员快速获取信息,并通过运维数据进行智能化分析和预测,帮助中小银行提前规避风险,提升运维人员处理问题的效率。”上述负责人告诉记者。

  记者了解到,通过此次的课题研究与实践,青岛银行初步完成了运维数据集中化、智能化管理的规划,所有的半结构化和非结构化数据都将统一储存在运维数据一体化应用平台中。同时,通过容量预测、运维日志智能分析以及动态基线技术等动态主动的IT运维管理策略,摸清事件的表现形式及故障发生的原因,确保在故障发生前采取有效措施积极预防,实现了前瞻性预测。

  一个最直观的数据是,通过运维信息的高速检索,青岛银行开创性地降低了日常排查故障的时间成本,由原来的平均10分钟,大幅缩短至1分钟。同时,根据实际评测,以5台服务器集群,对1亿条日志数据进行关键字搜索,能够在1到3秒内返回,并且性能在扩展集群机器数的情况下可以达到线性提升。

  在此背后,青岛银行围绕此次课题的应用研究主要包括:利用业界先进的数据处理技术,将数量巨大的运维指标抽象为时序数据,并存储至时间序列数据库,实现快速存储和查询;设计运维日志智能聚合分析方法,研究日志智能聚合技术在各类运维场景下的应用;打造海量运维数据检索引擎,并将之与知识检索、数据压缩进行有机结合;建设运维数据一体化应用平台,研究运维数据整个生命周期中从采集到整理、存储、分析以及应用等各个环节的联系和构建方法。

  “通过数据科学的运维管理研究,青岛银行将告别以往的事中、事后管理,迈入事前管理的新时代,并且有效地主动预防、预测潜在问题,在业务受到影响前加以解决,快速实现向主动IT运维管理的跨越。”该行负责人表示。

  记者通过对青岛银行项目相关负责人采访了解到,该行已经连续5年在银监会信息科技风险管理课题方面获得优异成绩。值得一提的是,此次关于中小银行的智能运维管理研究,青岛银行跨界携手海致网络技术(北京)有限公司进行技术支持。作为大数据技术和智能运维方面的专业型企业,海致公司以成熟的智能运维解决方案,通过机器数据帮助IT部门发现和关联隐藏在系统孤岛中的潜在有价值的信息,更快地排查定位发生故障的根本原因,并通过预测性分析来提升企业智能化运维水平。

  “此次在与海致公司大数据的通力合作下,青岛银行建设了银行运维数据一体化应用平台。该平台的建设将改变传统的被动防御式运维管理模式,增强运维主动性,提高知识传递有效性,实现了数据信息提交、处理、反馈及优化等各个环节流转过程的标准化,确保了运维数据的准确无误和运维数据管理的正常运行。”该行负责人表示。

  青岛银行负责人表示,未来,该行还将沿着深度学习和知识图谱方向,进行更深一步的银行智能运维研究。一方面,通过深度学习检测和识别恶意软件和新型恶意软件,在恶意软件造成破坏前进行预警;另一方面,通过运用知识图谱进行运维数据的中心性分析和距离相关性系数的计算,以实现银行智能化运维的终极目标。