91636

Требования к средствам реализации систем оперативной и аналитической обработки данных

Доклад

Информатика, кибернетика и программирование

Для чего собственно нужны МСУБД и нужно ли тратить время и средства на их освоение и приобретение если все те же задачи можно решить и средствами традиционных РСУБД И обратный: Почему МСУБД ограничивают себя исключительно приложениями ориентированными на анализ данных и почему бы на их основе не реализовывать традиционные системы оперативной обработки данных И несмотря на то что эти вопросы выражают достаточно противоположные точки зрения ответ на них звучит приблизительно одинаково: Главное достоинство МСУБД состоит именно в том что...

Русский

2015-07-21

46.06 KB

1 чел.

Требования к средствам реализации систем оперативной и аналитической обработки данных

При первом знакомстве с многомерным подходом к организации данных достаточно часто возникают два противоречивых вопроса.

Для чего собственно нужны МСУБД и нужно ли тратить время и средства на их освоение и приобретение, если все те же задачи можно решить и средствами традиционных РСУБД?

И обратный:

Почему МСУБД ограничивают себя исключительно приложениями, ориентированными на анализ данных и почему бы на их основе не реализовывать традиционные системы оперативной обработки данных?

И несмотря на то, что эти вопросы выражают достаточно противоположные точки зрения, ответ на них звучит приблизительно одинаково: "Главное достоинство МСУБД состоит именно в том, что они узко специализированны и область их применения - интерактивная аналитическая обработка агрегированных исторических и прогнозируемых данных".

Агрегированные данные. Пользователя, занимающегося анализом, редко интересуют детализированные данные. Более того, чем выше уровень пользователя (руководителя, управляющего, аналитика), тем выше уровень агрегации данных, используемых им для принятия решения. Рассмотрим в качестве примера фирму по продаже автомобилей. Коммерческого директора такой фирмы мало интересует вопрос: "Какого цвета "Жигули" успешнее всего продает один из ее менеджеров - Петров: белого или красного?" Для него важно, какие модели и какие цвета предпочитают в данном регионе. Его также мало интересует детализация на уровне контракта, часа или даже дня. Например, если выяснится, что "ВАЗ2108 Красного цвета" чаще покупают в утренние часы, этот факт скорее заинтересует психиатра, а не коммерческого аналитика. Для правильного формирования склада ему важна и необходима информация на уровне декады, месяца или даже квартала.

Исторические данные. Важнейшим свойством данных в аналитических задачах является их Исторический характер. После того как зафиксировано, что Петров в июне 1996 г. продал 2 автомобиля "Волга" и 12 автомобилей "Жигули", данные об этом событии становятся историческим (свершившимся) фактом. И после того, как информация об этом факте получена, верифицирована и заведена в БД, она может быть сколько угодно раз считана оттуда, но уже не может и не должна быть изменена. Историчность данных предполагает не только высокий уровень статичности (неизменности) как собственно данных (например: Петров продал в 1995 г. 51 автомобиль "Жигули ВАЗ2105"), так и их взаимосвязей (например: в 1995 г. Петров работал в Восточном Регионе; в 1995 г. продавались автомобили модели ВАЗ2105). А это, в свою очередь, дает возможность использовать специализированные, основанные на предположении о статичности данных и их взаимосвязей методы загрузки, хранения, индексации и выборки.

Другим неотъемлемым свойством Исторических данных является обязательная спецификация Времени, которому эти данные соответствуют. Причем Время является не только наиболее часто используемым критерием выборки, но и одним из основных критериев, по которому данные упорядочиваются в процессе обработки и представления пользователю. А это накладывает соответствующие требования как на используемые механизмы хранения и доступа:

для уменьшения времени обработки запросов желательно, чтобы уже в БД данные хранились (были предварительно отсортированы) в том порядке, в котором они наиболее часто запрашиваются;

так и на языки описания и манипулирования данными, например:

во многих организациях используются как общепринятые, так и собственные календарные циклы (финансовый год может начинаться не в январе как календарный, а, например, в июне);

время является стандартным параметром практически любой аналитической, статистической или финансовой функции (прогноз, нарастающий итог, переходящий запас, скользящее среднее и т.д.).

Прогнозируемые данные. Когда говорится о неизменности и статичности данных в аналитических системах, имеется в виду неизменность исключительно Исторических данных (данных, описывающих уже произошедшие события). Такое предположение ни в коем случае не распространяется на Прогнозируемые данные (данные о событии, которое еще не происходило). И этот момент является весьма существенным.

Например, если мы строим прогноз об объеме продаж на июнь 1997 г. для менеджера Петрова, то, по мере поступления фактических (Исторических) данных за 1996 г., эта цифра может и будет многократно изменяться и уточняться. Более того, достаточно часто прогнозирование и моделирование затрагивает не только будущие, еще не произошедшие, но и прошлые, уже свершившиеся события. Например, анализ: "а, что будет (было бы)... если (бы)..?", строится на предположении о том, что значения некоторых данных, в том числе и из прошлого, отличны от реальных. И для ответа на вопрос:

"Какой был бы Прогноз по объему продаж автомобилей "Волга" для менеджера Петрова на июнь 1997 г., если бы объем продаж "Волг" в июне 1996 г. у него возрос на тот же процент, что объем продаж "Жигулей"?"

потребуется не только вычислить новое, еще не существующее значение Объема Продаж, для еще не наступившего июня 1997 г., но и предварительно вычислить гипотетическое значение Объема продаж, за уже прошедший июнь 1996 г.

На первый взгляд, мы сами противоречим себе, говоря о неизменности данных, как основополагающем свойстве аналитической системы. Но это не так. Это кажущееся противоречие наоборот подчеркивает и усиливает значимость требований к неизменности Исторических данных. Сколько бы мы не упражнялись (например, при анализе: "а что... если..?") со значением объема продаж за июнь 1996 г., значения Исторических (реальных) данных должны оставаться неизменными. Конечно, предположение о неизменности не означает невозможности исправления ошибок, если они были обнаружены в Исторических данных.

В свою очередь, к оперативным данным, отражающим состояние некоторой предметной области в данный текущий момент времени, не применимы такие понятия, как прошлое или будущее. Для них существует единственное понятие - сейчас, а их основное назначение - адекватное детализированное отображение текущих событий (изменений), происходящих в реальном мире. Например:

менеджер Петров продал еще одни "Жигули ВАЗ2106";

менеджера Петрова перевели из Восточного филиала фирмы в Западный.

Вместе с тем изменчивость Оперативных данных ни в коем случае не подразумевает их близость по свойствам к Прогнозируемым данным. Между ними существует коренное различие. Оперативным данным, в отличие от Прогнозируемых, присуще свойство общезначимости, и обычно все пользователи работают с одним и тем же экземпляром данных. После того как в оперативную систему заведены данные о том, что Петров продал еще один автомобиль, эта информация сразу же должна стать доступной всем заинтересованным в ней пользователям. Причем до тех пор, пока это изменение не зафиксировано, ни какой другой пользователь не имеет права изменять строку с информацией о продажах Петрова.

Существенно иная ситуация с Прогнозируемыми данными. Они носят, скорее, личностный (индивидуальный) характер. Вполне реальна ситуация, когда коммерческий директор фирмы и управляющий региональным отделением одновременно решили получить прогноз возможного объема продаж на 1997 г. для Петрова. Однако каждый из них делает собственный прогноз. Каждый из них может использовать свои функции прогнозирования, и, даже если применяется один и тот же метод (или функция), прогноз может основываться на различных исторических интервалах, и результаты, по всей вероятности, будут различны. Поэтому каждый из них работает с собственным экземпляром Прогнозируемых данных (хотя эти данные и относятся формально к одной и той же личности, виду деятельности и времени), и эти данные не должны смешиваться. Конечно, вполне вероятно, что один из этих вариантов будет принят в качестве плановых показателей для Петрова. Но после того, как Прогноз утвержден в качестве Плана, данные просто перейдут в другую категорию и станут Историческими.

Следует заметить, что в области информационных технологий всегда существовало два взаимодополняющих друг друга направления развития:

  1. системы, ориентированные на оперативную (транзакционную или операционную) обработку данных;
  2. системы, ориентированные на анализ данных - системы поддержки принятия решений (DSS).

И практически до настоящего времени, когда говорилось о стремительном росте числа реализаций информационных систем, прежде всего имелись в виду системы, предназначенные исключительно для оперативной обработки данных. Именно для этого изначально и создавались и на это были ориентированы РСУБД, которые сегодня стали основным средством построения информационных систем самого различного масштаба и назначения. Но, являясь высокоэффективным средством реализации систем оперативной обработки данных, РСУБД оказались менее эффективными в задачах аналитической обработки.

Конечно, средствами традиционных РСУБД и на основании данных, хранящихся в реляционной БД, можно построить заранее регламентированный аналитический отчет (табл. 2) и даже Прогноз об ожидаемом объеме продаж автомобилей на следующий год.

Характеристика

Статический анализ

Динамический анализ

Типы вопросов

Сколько? Как? Когда?

Почему? Что будет если?

Время отклика

Не регламентируется

Секунды

Типичные операции

Регламентированный отчет, диаграмма

Последовательность интерактивных отчетов, диаграмм, экранных форм; динамическое изменение уровней агрегации и срезов данных

Уровень аналитических требований

Средний

Высокий

Тип экранных форм

В основном определенный заранее, регламентированный

Определяемый пользователем

Уровень агрегации данных

Детализированные и суммарные

В основном суммарные

Возраст данных

Исторические и текущие

Исторические, текущие и прогнозируемые

Типы запросов

В основном предсказуемые

Непредсказуемые, от случаю к случаю

Назначение

Работа с историческими и текущими данными, регламентированная аналитическая обработка и построение прогнозов

Работа с историческими, текущими и прогнозируемыми данными. Многопроходный анализ, моделирование

Таблица 2. (Сравнение характеристик статического (регламентированного) и динамического анализа).

Но, как правило, после просмотра такого отчета у пользователя (аналитика) появится не готовый ответ, а новая серия вопросов. Однако, если бы ему захотелось получить ответ на новый вопрос, он может ждать его часы, а иногда и дни. Обычно каждый новый непредусмотренный заранее запрос должен быть сначала формально описан, передан программисту, запрограммирован и, наконец, выполнен. Но после того, как аналитик получит долгожданный ответ, достаточно часто оказывается, что решение не могло ждать и оно уже принято, или что случается еще чаще, произошло взаимное непонимание и получен ответ на не совсем тот вопрос. Впрочем, не намного меньшее время затрачивается и на получение ответа и на заранее описанный и запрограммированный запрос.

Более того, для решения большинства аналитических задач, скорее всего, потребуется использование внешних по отношению к РСУБД, специализированных инструментальных средств. Выполнение большинства аналитических функций (например построение прогноза) невозможно без предположения об упорядоченности данных. Но в РСУБД предполагается, что данные в БД не упорядочены (или, более точно, упорядочены случайным образом). Естественно, здесь имеется возможность после выборки данных из БД выполнить их сортировку и затем аналитическую функцию. Но это потребует дополнительных затрат времени на сортировку. Сортировка должна будет проводиться каждый раз при обращении к этой функции, и, самое главное, такая функция может быть определена и использована только во внешнем по отношению к РСУБД пользовательском приложении и не может быть встроенной функцией языка SQL.

Не менее важно и то, что многие критически необходимые для оперативных систем функциональные возможности, реализуемые в РСУБД, являются избыточными для аналитических задач. Например, в аналитических системах (табл. 3) данные обычно загружаются достаточно большими порциями из различных внешних источников (оперативных БД, заранее подготовленных плоских файлов, электронных таблиц). И, как правило, время и последовательность работ по загрузке, резервированию и обновлению данных могут быть спланированы заранее. Поэтому в таких системах обычно не требуются и, соответственно, не предусматриваются, например, развитые средства обеспечения целостности, восстановления и устранения взаимных блокировок и т.д. А это не только существенно облегчает и упрощает сами средства реализации, но и значительно снижает внутренние накладные расходы и, следовательно, повышает производительность при выполнении их основной целевой функции - поиске и выборке данных.

Характеристика

Оперативные

Аналитические

Частота обновления

Высокая частота, маленькими порциями

Малая частота, большими порциями

Источники данных

В основном внутренние

В основном внешние (по отношению к аналитической системе)

Возраст данных

Текущие (за период от нескольких месяцев до одного года)

В основном исторические (за период в несколько лет, десятки лет) и прогнозируемые

Уровень агрегации данных

Детализированные данные

В основном агрегированные данные

Назначение

Фиксация, оперативный поиск и обработка данных

Работа с историческими данными, аналитическая обработка, прогнозирование и моделирование

Таблица 3. (Характеристики данных в системах, ориентированных на оперативную и аналитическую обработку данных).


 

А также другие работы, которые могут Вас заинтересовать

20351. Ламповые высокочастотные генераторы с внешним возбуждением 362.5 KB
  Расчет генератора рассмотрим на типовом примере. Расчет анодной цепи генератора. Аналогичный расчет электрического режима работы ВЧ лампового генератора с внешним возбуждением можно провести по программе на языке Mathcad. Программа расчета электрического режима работы ВЧ лампового генератора Программа состоит из трех частей: ввода исходных данных DATE; расчета параметров генератора по анодной цепи ANODE; расчета параметров сеточной цепи генератора GRID.
20352. ТРАНЗИСТОРНЫЕ ГВВ 437.5 KB
  В биполярных транзисторах происходит перенос как основных носителей заряда в полупроводнике так и неосновных; в полевых только основных. Управление током прибора в биполярных транзисторах осуществляется за счет заряда неосновных носителей накапливаемых в базовой области; в полевых за счет действия электрического поля на поток носителей заряда движущихся в полупроводниковом канале причем поле направлено перпендикулярно этому потоку. Для увеличения мощности прибора в биполярных транзисторах используют многоэмиттерную структуру а в...
20353. Режимы работы транзисторно гВВ 270.5 KB
  Анализ работы и режимы работы транзисторного генератора с внешним возбуждением 9. Ключевой режим работы высокочастотного транзисторного генератора 9. Методика расчета ВЧ генератора с биполярным транзистором 9. Анализ работы и режимы работы транзисторного генератора с внешним возбуждением 9.
20354. СВЧ ТРАНЗИСТОРНЫЕ ГВВ 176 KB
  СВЧ ТРАНЗИСТОРНЫЕ ГВВ 12. Метод анализа линейных СВЧ устройств 12. Гибридноинтегральные СВЧ устройства и микрополосковые линии передачи 12. СВЧ транзисторный усилитель 12.
20355. АВТОГЕНЕРАТОРЫ И СТАБИЛИЗАЦИЯ ЧАСТОТЫ АВТОКОЛЕБАНИЙ 180.5 KB
  АВТОГЕНЕРАТОРЫ И СТАБИЛИЗАЦИЯ ЧАСТОТЫ АВТОКОЛЕБАНИЙ 14. Стабильность частоты автогенератора 14. Различительным признаком может являться не само значение частоты генерируемых колебаний а тип используемых электрических цепей. Способы стабилизации частоты автоколебаний: параметрическая с использованием обычных колебательных систем; кварцевая с использованием в качестве резонатора кристалла кварца; с диэлектрическим резонатором только в СВЧ диапазоне; молекулярная за счет индуцированного возбуждения атомов.
20356. СТАБИЛИЗАЦИЯ ДИСКРЕТНОГО МНОЖЕСТВА ЧАСТОТ 105 KB
  Автоматическая подстройка частоты 15. Частотная автоподстройка частоты 15. Фазовая автоподстройка частоты 15. Основными параметрами синтезатора являются: диапазон частот выходного сигнала количество N и шаг сетки частот fш долговременная и кратковременная нестабильность частоты уровень побочных составляющих в выходном сигнале и время перехода с одной частоты на другую.
20357. ДИОДНЫЕ СВЧ АВТОГЕНЕРАТОРЫ И УСИЛИТЕЛИ 98 KB
  ДИОДНЫЕ СВЧ АВТОГЕНЕРАТОРЫ И УСИЛИТЕЛИ 16. Физические основы работы генераторных СВЧ диодов 16. СВЧ диодные автогенераторы 16. СВЧ диодные генераторы с внешним возбуждением 16.
20358. ПОЛУПРОВОДНИКОВЫЕ УМНОЖИТЕЛИ ЧАСТОТЫ 47.5 KB
  ПОЛУПРОВОДНИКОВЫЕ УМНОЖИТЕЛИ ЧАСТОТЫ 17. Транзисторный умножитель частоты 17. Диодные умножители частоты 17. Назначение принцип действия и основные параметры Умножители частоты в структурной схеме радиопередатчика см.
20359. СУММИРОВАНИЕ МОЩНОСТЕЙ СИГНАЛОВ СВЧ ГЕНЕРАТОРОВ 95.5 KB
  СУММИРОВАНИЕ МОЩНОСТЕЙ СИГНАЛОВ СВЧ ГЕНЕРАТОРОВ 18. Способы суммирования мощностей сигналов 18. Суммирование мощностей сигналов с помощью многополюсной схемы 18. Суммирование мощностей сигналов с помощью ФАР 18.