(1)数据交换平台.功能描述

数字校园系列软件产品

数据交换平台

功能描述

目录

1

产品概述............................................................................................................... - 1 - 1.1 产品简介 .................................................................................................... - 1 - 1.2 应用范围 .................................................................................................... - 1 - 产品功能结构........................................................................................................ - 2 - 产品功能............................................................................................................... - 3 - 3.1

数据源适配器 ............................................................................................. - 3 - 3.1.1 数据源类型 ...................................................................................... - 3 - 3.1.2 3.2

3.2.1 3.2.2 3.2.3 3.2.4 3.2.5

数据获取方式................................................................................... - 3 - 抽取全量、增量数据 ........................................................................ - 4 - 数据过滤.......................................................................................... - 4 - 数据关联.......................................................................................... - 5 - 数据分包.......................................................................................... - 6 - 数据加密.......................................................................................... - 6 -

数据抽取 .................................................................................................... - 4 -

2 3

3.2.6 数据压缩.......................................................................................... - 6 - 3.2.7 数据备份、删除 ............................................................................... - 6 - 3.3 数据传输 .................................................................................................... - 7 - 3.4 3.5

数据映射、转换.......................................................................................... - 7 - 数据同步 .................................................................................................... - 7 -

3.5.1 数据同步方式................................................................................... - 8 - 3.5.2 数据同步异常................................................................................... - 8 - 3.6 服务调度 .................................................................................................... - 8 - 3.7 运维监控 .................................................................................................... - 9 -

3.7.1 3.7.2 3.7.3 3.7.4

告警监控.......................................................................................... - 9 - 流程监控.......................................................................................... - 9 - 资源监控.........................................................................................- 10 - 日志管理.........................................................................................- 11 -

1 产品概述

1.1 产品简介

在校园信息化趋势日益高涨的同时,暴露出很多问题:

信息化建设缺乏统一指导和总体规划,各部门独自为战,信息孤岛现象

日益严重

由于建设时期不同,采用的技术架构和建设情况各有差异,各系统之间

的运行管理维护等也相对独立

缺少统一应用平台,不能提供基于全面准确的标准数据及基于此的决策

分析等深层次的增值服务

数据交换平台正是立足于解决以上问题,通过对现有的系统进行数据整合,尤其是对相关的数据资源进行整合,消除“信息孤岛”,实现校园内各种信息系统的互通互连和数据共享,形成统一的数据服务层,为上层应用提供数据服务,为校园综合信息服务的便利、完善和高效提供可靠的数据基础。

数据交换平台采用星型拓扑结构,有效的简化了网络结构,实现了数据交换智能路由功能,根据交换数据内容,能够方便实现一点对多点,多点对一点,以及发送、转换、转发、接收等多种交换流程。

通过采用中间件机制,很好的屏蔽了应用系统直接的耦合程度,实现了数据的无缝交换和共享访问,保证了各应用系统的有效协同,同时又能保证各应用系统的相互独立性和低耦合性,从整体上提高了系统运作效率和可靠性。

1.2 应用范围

2 产品功能结构

数据交换平台功能结构图

3 产品功能

3.1 数据源适配器 3.1.1 数据源类型

数据交换平台支持各种主流、非主流的数据源,通过数据适配器可以灵活扩展。

● 支持多种主流关系型数据库,包括:Oralce (9i 、10g 、11g )、Microsoft SQL

Server (2000、2005、2008)、IBM DB2、Sybase

● 支持多种ODBC 数据类型,包括:Microsoft Access(.mdb )、Microsoft Excel

(.xls )、VisualFoxpro (.dbf ) ● 支持XML 文件 ● 支持Webservice

● 支持纯粹的文件类型,例如:照片、Word 文件

3.1.2 数据获取方式

数据交换平台支持多种数据获取方式: 数据库视图

可以从指定数据库的视图中提取数据。 数据表

可以从指定数据库的表中提取数据。 自定义SQL

可以用自定义SQL 从指定数据库中提取数据。 Webservice

可以从指定Webservice 提供的方法中提取数据。 文件

可以从指定XML 、Excel 、Access 、Dbf 文件中提取数据;可以把任意类型的文件从一个地方交换到另一个地方。

3.2 数据抽取

数据交换的第一个环节是要进行数据抽取,根据特定的业务规则进行抽取,例如:抽取全量数据、抽取增量数据、数据过滤、数据关联、数据分包、数据加密、数据删除、数据备份、数据压缩等。

3.2.1 抽取全量、增量数据

根据实际业务需要,数据交换平台需要获取全量或者只提取有变化的数据,即增量数据。

全量、增量数据

3.2.2 数据过滤

对于业务系统提供的数据,有些数据不是实际需要的,那么可以通过设置数据过滤条件和选择数据字段,对数据源进行过滤。

选择字段

设置过滤条件

3.2.3 数据关联

业务系统提供的数据中,缺少某些字段,需要关联其他系统的数据后才能得到,通过数据关联可以轻松解决此问题,要关联的数据源类型和源数据一样都支持所有数据类型

数据关联

3.2.4 数据分包

针对大数据量的抽取,一次性读取所有数据,对系统压力比较大,通过数据分包,按照数据条数可以把数据分成多个包,分包进行交换,大大减轻系统的承受压力。

3.2.5 数据加密

针对一些机密数据,在数据抽取过程中,会对数据进行加密,即使在交换过程被截获,也无法获取数据的真实内容。

3.2.6 数据压缩

针对大数据量的抽取,可以采用数据压缩,缩小数据文件的大小。

3.2.7 数据备份、删除

针对增量数据源的数据,数据抽取完成需要删除原数据,为保证数据的完整性,在删除前,需要对数据进行备份。

3.3 数据传输

数据抽取完成后,进行数据传输,传输时可以通过Http 协议和Ftp 协议进行传输。

3.4 数据映射、转换

数据映射、转换环节是数据交换平台中的重中之重,主要提供了以下支持: 字段关联合并

多个字段可以合并到一个目标字段,字段首尾可以连接自定义字符 大小写转换

对字段进行大小写转换 首尾空格删除

对字段首尾空格进行删除 字段长度计算

获取字段内容长度

映射配置

数据映射关系的配置,可以通过拖曳式的操作,建立源和目标之前的对应关系

3.5 数据同步

经过数据抽取、数据映射转换后的数据,就可以给目标数据源进行同步了。

3.5.1 数据同步方式

数据同步支持的方式有: 数据表

目标数据源为数据表,需要指定数据表的主键,同步过程中根据主键来判断数据插入、更新。 存储过程

存储过程提供输出参数,在目标数据源配置中指定预期输出,在同步过程中,判断预期输出值和输入值是否一致,同时记录异常数据和异常原因。 Webservice

通过判断Webservice 调用后的返回结果和预期是否一致,判断同步是否成功,记录成功的记录数和失败的记录数。 文件

把转换后的数据同步成文件,文件类型可以是任意文件类型

3.5.2 数据同步异常

数据同步过程中的异常数据,系统会自动记录下来,包括数据和错误原因,在监控平台上,可以下载异常数据和异常记录,供系统维护人员进行分析处理。

3.6 服务调度

每一个原数据源和目标数据源之间的数据交换频率是不尽相同的,可以为每一个流程设置运行周期调度:

● 流程在启动状态时执行,满足轮询策略 ● 具体到某一时刻执行 ● 设置时间段运行

● 周期运行,周期可以设置为分钟、小时、天、周、月、年

服务调度

3.7 运维监控

数据交换平台提供了多种监控,实时反映各个数据交换流程的运行情况,服务器资源的使用情况,交换平台的整体接入情况。所有的流程都可以进行启动、停止操作。

3.7.1 告警监控

提供平台运行过程中的异常信息。

告警监控

3.7.2 流程监控

对每一个流程中的各个环节进行监控,针对出错的环节通过下载错误数据和

错误原因分析问题具体的原因。

流程监控

3.7.3 资源监控

实时监控服务器CPU 、内存、硬盘的使用情况。

资源监控

整体情况监控

3.7.4 日志管理

平台记录了数据交换各个环节的日志。

日志管理


相关内容

  • 信息资源交换体系规范

    湖北省电子政务信息资源交换体系总体设计规范 1 范围 本标准规定了湖北省电子政务信息资源交换体系的总体架构.交换模式.逻辑结构.物理部署.技术要求.建设规范.交换指标及技术管理要求等内容. 本标准适用于湖北省电子政务信息资源交换体系的规划. ...


  • HJ_T 418-2007 环境信息系统集成技术规范

    ICS 本电子版为发布稿.请以中国环境科学出版社出版的正式标准文 本为准. HJ 国家环境保护总局 发布 目 次 前 言............................................................ ...


  • 智能运维管理系统_需求规格说明书_V2.0

    智能运维管理系统V2.0 需求规格说明书 修订 目 录 1. 文档介绍 .................................................................................... ...


  • 视频图像信息数据库总体架构分析

    视频图像信息数据库总体架构分析 一.概述 视频图像信息数据库是一个提供除传统连续视频流以外的视频图像内容信息流的存储和相应服务的新的基础设施,是一个提供除传统视频监控实时浏览.云镜控制.录像下载回放等基本功能以外的.与公安实战应用能深度结合 ...


  • 数据共享交换平台解决方案20151221

    数据共享交换平台 设计方案 编 写 单 位: 项目负责人: 编 写 人: 提 交 日 期: 北京XXX 信息技术有限公司 XXX XXX 二○一四年三月 变更记录 * A – 增加的 M – 改进的 D – 删减的 目 录 第一章 概述 . ...


  • 数据共享交换平台设计实施解决方案

    [word 版本下载后可任意编辑修改] 目 录 第一章 概述 ...................................... 4 1.1 平台建设背景 ............................ 4 1.2 应用 ...


  • 勤智 创新创业大数据平台解决方案

    勤智 创新创业大数据平台 解决方案 成都勤智数码科技股份有限公司 2015年6月 目录 1 2 3 建设大数据平台的目的 . ......................................................... ...


  • 数据交换共享整合系统平台技术方案

    数据交换共享整合协同平台设计 整合协同平台的主要功能是从其它子系统中提取共享数据,并对多来源渠道的.相互不一致的数据进行数据融合处理:基于数据字典对实时数据和历史数据进行组织,以保证数据间关系的正确性.可理解性并避免数据冗余:以各种形式提供 ...


  • 呼叫中心技术建议书

    IP 呼叫中心技术建议书 目录 一. 企业呼叫中心系统的概述.......................................................................................... ...