「울산·경남지역혁신플랫폼 스마트제조ICT사업단 빅데이터공유플랫폼센터」 BSP AI Intelligence FrameWork ※ BSP : BigData Sharing Platform (빅데이터 공유플랫폼)

초연결 IoE 네트워크를 통해 멀티모달(Multi Modal) 데이터를 수집 및 정제하고 스스로 학습 및 지식화한 후 도메인 지식과 융합하여 추론·최적화함으로써 예측·예방·최적화 지능 서비스(BSP)를 제공하여 자가학습형 지식융합 제조ICT 핵심 인재 양성

※ Multi Modal : 여러 가지 형태와 의미로 컴퓨터와 대화화는 환경

Ⅰ		개요

□ 개념 및 구조

□ IoT, 빅데이터, 기계학습 및 도메인 지식을 융합하여 다양한 인공지능 서비스 구축에 필요한 공통기능을 제공하는 AI FrameWork

□ 분산병렬 인프라를 기반으로 다양한 데이터 소스로부터 도메인 응용서비스 제공까지의 전주기적 솔루션

□ 멀티모달 데이터처리, 멀티모델 동시학습 및 추론, 자동기계학습, 분산병렬학습 및 추론, 기계학습모델 및 도메인지식의 탑재·연동을 워크플로우 기반으로 선택·조합·실행·서빙 및 재활용 가능한 구조

□ 특장점

□ (지속성) SW/Data/Analytics/경험 등 기업의 데이터를 활용한 인공지능 기술 내재화

□ (다양성) SW 컴퍼넌트들의 조합으로 다양한 응용 서비스 시스템 구성

□ (재활용성) 워크플로우 재활용, 공유기능 제공

□ (확장성) 개발자 API를 이용한 3rd Party 컴퍼넌트 신규개발 및 등록 인터페이스 지원

□ (편의성)

가) 웹 기반 DIY 워크플로우 저작도구 및 모니터링/실행/제어 인터페이스 제공

나) Stand-alone 실행환경과 웹툴킷 저작 환경을 포함한 컨테이너 기반 툴박스

다) 모델 학습과 서빙 절차의 일원화

□ 주요기능

□ (데이터 처리) IoE 실시간 데이터 파이프라인 처리, 스트림 처리, 분산병렬 기반 대용량 데이터 처리

□ (Analytics) 데이터 비식별화/전처리, 기계학습/딥러닝, 자동기계학습(AutoML)

□ (AI Serving) 기계학습/딥러닝 모델 스트림 서빙, 딥러닝 모델 On-Demand 서빙, 온톨로지 기반 지식베이스 연동 서빙(도메인별 지식베이스 구축 필요함)

□ (AI 서비스 배포 및 모니터링) 워크플로우 파이프라인 기능, 워크플로우/엔진 단위 모니터링 및 제어 기능, 워크플로우/엔진 스케쥴링 기능, 서비스 등록 기능, 런타임 실행 프레임워크 버전 동기화 등 (DevOps)

□ (AI/SW Assets) 데이터 및 모델 저장소 기능, 모델 자동 버전관리, 배포용 모델의 주기적 빌드, SW컴퍼넌트 신규등록/갱신/버전관리, UI 컴포넌트 버전관리/갱신 등

□ (WebToolKit) 웹 기반 저작도구/시각화

Ⅱ		상세 내용

□ (스트림) 데이터 수집/적재/처리

❍ 실시간 IoE 스트림 데이터 수집/적재/처리

- oneM2M R1 호환 디바이스의 http 방식 외 수집기능(3종)

- 파이프라인에 의한 실시간 스트림 데이터 처리기능(9종)

- 실시간 스트림 데이터의 다양한 저장 기능(5종)

❍ 대용량 IoE 빅데이터 수집/적재/처리

- 수집/적재: reader 10종, writer 7종

- 데이터 추출/정제/축소/변환 등 전처리 기능

- Mini-batch/Batch 방식 데이터 처리 지원(32종)

❍ 개인정보 및 민감정보 데이터 비식별 처리

- 16종의 비식별 처리 기능

- k-익명성, l-다양성, t-근접성 적적성 검증 기능

□ 학습/분석/예측모델 생성

❍ 자동기계학습(AutoML)

- 분산병렬기반 기계학습 모델 자동최적화 기능

- Classification 및 Regression용 모델 자동학습 기능

- 다중모델 자동학습 및 최적모델 자동선택 기능

❍ 딥러닝

- 딥러닝 모델 탑재 및 텐서플로우 연동을 통한 분석

- RNN 기반 원인 분석 및 예측 모델 탑재

❍ Spark ML 기반 기계학습

- Classification 3종, Regression 3종 탑재

- Decison Tree, Naive Bayes, Random Forests, Linear Regression

□ 모델서빙/융합서빙/지식연동

❍ 기계학습 모델 스트림 서빙

- Spark ML 기반 기계학습 모델 스트림 서빙

- 파이프라인에 의한 실시간 스트림 서빙

❍ 딥러닝 모델 On-Demand 서빙

- 텐서플로우 기반 딥러닝 모델 서빙(RESTful API제공)

- 모델 버전관리, Hadoop파일시스템에 저장된 모델 로딩

❍ 딥러닝 모델 스트림 서빙

- 텐서플로우 기반 딥러닝 모델 스트림 서빙

- Spark 연동을 통한 분산 병렬 스트림 서빙

❍ 지식 등록/연동 및 융합 서빙

- 지식추론 규칙 작성 및 적용(RESTful API제공)

- 지식검색(RESTful API제공)

- 다중 모델 융합 서빙

<참조 1: BSP 인공지능 서비스를 위한 워크플로우 기반 엔진구성 개념도>

<참조 2: BSP 코어 아키텍처, End To End 개발환경>

<참조 3: 단계별 빅데이터 관련 에코시스템>

※ BSP AI FrameWork

- ETRI(한국전자통신연구원)의 KSB AI FrameWork를 기반으로 서비스 및 운영

- 강좌 VOD, 예제 코드, 예제 데이터, 사용자 매뉴얼은 ETRI 자료 제공