Развитие логико-вероятностного подхода в алгебраических байесовских сетях
Аннотация
В работе представлена краткая история становления вероятностных графических моделей и рассмотрены посылы к их возникновению. Особое внимание уделено байесовским сетям доверия и родственным им алгебраическим байесовским сетям, являющимся представлением баз знаний с неопределенностью. Приведены ключевые достижения в развитии логико-вероятностного аппарата алгебраических байесовских сетей и аппарата байесовских сетей доверия, дополненные примерами использования байесовских сетей доверия в программных продуктах. Обзор развития аппарата логико-вероятностного вывода продолжен формулировкой и доказательством решения первой задачи апостериорного вывода на матрично-векторном языке. Кроме того перечислены задачи, стоящие в настоящий момент перед исследователями в области алгебраических байесовских сетей. Данная работа может быть полезна преподавателям для использования при подготовке в дисциплинах, посвященных современным исследованиям в области искусственного интеллекта, студентам, специализирующимся в области информатики и информационных технологий, рассматривающим перспективные темы для своих курсовых, выпускных квалификационных, научно-исследовательских работ и сотрудникам ИТ-компаний, исследующим возможности применения математических моделей в бизнес процессах.
Литература
2. Nilsson N.J. Probabilistic Logic // Artificial Intelligence. 1986. Vol. 47. Amsterdam: Elsevier Science Publishers B.V., 1986. P. 71–87.
3. Тулупьев А.Л., Сироткин А.В., Николенко С.И. Байесовские сети доверия: логиковероятностный вывод в ациклических направленных графах. СПб.: Изд-во С.-Петерб. ун-та, 2009.
4. Тулупьев А.Л., Николенко С.И., Сироткин А.В. Байесовские сети: логико-вероятностный подход. СПб.: Наука, 2006.
5. Bool G. An Investigation of the Laws of Thought, on Which Are Founded the Mathematical Theories of Logic and Probabilities. Cambridge: Macmillan / London: Walton & Maberly, 1854. (Reprinted in 1951, Dover Publications, New York.)
6. Юшкевич А.П. История математики. Т. III. Математика XVIII столетия М.: Наука, 1972.
7. Pearl J. Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference. N.Y.: Morgan Kaufman Publ. 1991.
8. Jensen F.V. Bayesian Networks and Decision Graphs // Springer-Verlag. 2002.
9. Городецкий В.И. Алгебраические байесовские сети — новая парадигма экспертных систем // Юбилейный сборник трудов институтов Отделения информатики, вычислительной техники и автоматизации РАН. Т. 2. М.: РАН. 1993. С. 120–141.
10. Городецкий В.И., Тулупьев А.Л. Формирование непротиворечивых баз знаний с неопределенностью // Изв. РАН. Сер. Теория и системы управления. 1997. Т. 5. С. 33–42.
11. Тулупьев А.Л., Сироткин А.В. Алгебраические байесовские сети: принцип декомпозиции и логико-вероятностный вывод в условиях неопределенности // Информационно-измерительные и управляющие системы. 2008. Т. 6. № 10. С. 85–87.
12. Тулупьев А.Л. Вероятностные сети: логико-вероятностная парадигма в искусственном интеллекте // Нечеткие системы и мягкие вычисления (НСМВ-2008): Сборник научных трудов Второй Всероссийской научной конференции с международным участием (г. Ульяновск, 27–29 октября 2008 г.). В 2 т. Т. 1. Ульяновск: УлГТУ, 2008. С. 56–78.
13. Тулупьев А.Л. Вероятностная логика и вероятностные графические модели в базах фрагментов знаний с неопределенностью // Интегрированные модели, мягкие вычисления, вероятностные системы и комплексы программ в искусственном интеллекте. Научно-практическая конференция студентов, аспирантов, молодых ученых и специалистов (Коломна, 26–27 мая 2009 г.). Научные доклады. В 2-х т. Т. 1. М.: Физматлит, 2009. С. 26–46.
14. Тулупьев А.Л. Поддержание непротиворечивости фрагмента знаний с интервальной нечеткой мерой оценки неопределенности // Теоретические основы и прикладные задачи интеллектуальных информационных технологий: Сб. трудов СПИИРАН. СПб.: СПИИРАН, 1998. С. 82–92.
15. Тулупьев А.Л. Поддержание непротиворечивости фрагментов знаний с оценками доверия и правдоподобия // Информационные технологии и интеллектуальные методы: Сб. трудов СПИИРАН. 1999. Вып. 3. СПб.: СПИИРАН, 1999. С. 72–97.
16. Сироткин А.В., Тулупьев А.Л. Матрично-векторные операции с неточными вероятностями // Научная сессия МИФИ-2009. Аннотации докладов. В 3 т. Т. 3: Информационно-телекоммуникационные системы. Проблемы информационной безопасности в системе высшей школы. Экономика, инновации и управление. М.: МИФИ, 2009. С. 85.
17. Сироткин А.В., Тулупьев А.Л., Николенко С.И. Устойчивость и множественная устойчивость глобальной непротиворечивости алгебраических байесовских сетей // Труды СПИИРАН. 2005.Вып. 2. Т. 2. СПб.: Наука, 2005. C. 86–93.
18. Тулупьев А.Л., Никитин Д.А., Ромашова М.Н., Лакомов Д.П., Тишков А.В. Априорный и апостериорный вывод на элементе структурированной сети фрагментов знаний, геометрическое представление фрагментов знаний // VII Санкт-Петербургская международная конференция «Региональная информатика–2000 (РИ-2000)», Санкт-Петербург, 5–8 декабря 2000 г.: Труды конференции. СПб., 2001. C. 112–116.
19. Никитин Д.А., Тулупьев А.Л. Сведение задачи апостериорного вывода во фрагменте знаний к задаче линейного программирования (в случае детерминированного свидетельства) // VIII Санкт-Петербургская международная конференция «Региональная информатика–2002 (РИ-2002)», Санкт-Петербург, 26–28 ноября 2002 г.: Материалы. СПб., 2002. C. 46.
20. Никитин Д.А., Тулупьев А.Л. Сведение задачи апостериорного вывода во фрагменте знаний к задаче линейного программирования // VIII Санкт-Петербургская международная конференция «Региональная информатика–2002 (РИ-2002)», Санкт-Петербург, 26–28 ноября 2002 г.: Труды. СПб., 2003. C. 85–89.
21. Тулупьев А.Л. Алгебраические байесовские сети: глобальный логико-вероятностный вывод в
деревьях смежности: Учеб. пособие. СПб.: СПбГУ, ООО Издательство «Анатолия», 2007.
22. Тулупьев А.Л. Преобразование ациклических байесовских сетей доверия в алгебраические байесовские сети // Известия высших учебных заведений: Приборостроение. 2009. № 3. С. 21–23.
23. Тулупьев А.Л. Система представления алгебраических байесовских сетей и их фрагментов Algebraic Bayesian Networks Modeler, Version 01 for Java (AlgBN Modeler j.v.01) (Свидетельство). Свид. о гос. рег. прогр. для ЭВМ. Рег. № 2009613802 (16.07.2009). Роспатент. Бюлл. «Прогр. для ЭВМ, БД, топол. инт. микросх.». 2009. № 4. С. 64–65.
24. Тулупьев А.Л., Столяров Д.М., Ментюков М.В. Представление локальной и глобальной структуры алгебраической байесовской сети в Java-приложениях // Труды СПИИРАН. 2007. № 5. С. 71–99.
25. Тулупьев А.Л., Сироткин А.В. Матричные уравнения локального логико-вероятностного вывода оценок истинности элементов в алгебраических байесовских сетях // Вестник Санкт-Петербургского университета. Серия 1. Математика. Механика. Астрономия. 2012. № 3. C. 63–72.
26. Сироткин А.В. Комплекс программ логико-вероятностного вывода в базах фрагментов знаний: реализация фрагмента знаний // Труды СПИИРАН, 2013. Т. 25. С. 204–220.
27. Тулупьев А.Л., Сироткин А.В., Золотин А.А. Матричные уравнения нормирующих множителей в локальном апостериорном выводе оценок истинности в алгебраических байесовски сетях // Вестник Санкт-Петербургского университета. Серия 1. Математика. Механика. Астрономия. 2015 Т. 2. № 3. С 379–386.
28. Фильченков А.А., Тулупьев А.Л. Связность и ацикличность первичной структуры алгебраической байесовской сети // Вестник Санкт-Петербургского университета. Серия 1. Математика. Механика. Астрономия. 2013. № 1.
29. Фильченков А.А., Тулупьев А.Л., Сироткин А.В. Минимальные графы смежности алгебраической байесовской сети: формализация основ синтеза и автоматического обучения // Нечеткие системы и мягкие вычисления. 2011. Т. 6. № 2. С. 145–163.
30. Фроленков К.В., Фильченков А.А., Тулупьев А.Л. Апостериорный вывод в третичной полиструктуре алгебраической байесовской сети // Труды СПИИРАН. 2012. Т. 4. № 23. С. 343–356.
31. Фильченков А.А. Визуальная инструментальная платформа для работы с алгебраическими байесовскими сетями // Международная конференция по мягким вычислениям и измерениям. СПБГЭТУ «ЛЭТИ». 2012. Т. 1. С. 195–199.
32. Tulupyev A.L., Sirotkin A.V., Zolotin A.A. Matrix equations for normalizing factors in local a posteriori inference of truth estimates in algebraic Bayesian networks // Vestnik St. Petersburg University: Mathematics July 2015. Vol. 48. Iss. 3. P. 168–174.
33. Золотин А.А., Тулупьев А.Л., Сироткин А.В. Матрично-векторные алгоритмы локального апостериорного вывода в алгебраических байесовских сетях над пропозициями квантами // Научно-технический вестник информационных технологий, механики и оптики. 2015. Т. 15. № 4. С. 676–684.
34. Золотин А.А., Мальчевская Е.А. Матрично-векторные алгоритмы локального апостериорного вывода в алгебраических байесовских сетях над идеалами дизъюнктов // XIX Международная конференция по мягким вычислениям и измерениям (SCM-2016). Сборник докладов в 2-х томах. Санкт-Петербург. 25–27 мая 2016. Т. 1. С. 79–82.
35. Золотин А.А., Левенец Д.Г., Зотов М.А., Бирилло А.И., Березин А.И., Иванова А.В., Тулупьев А.Л. Алгоритмы обработки и визуализации алгебраических байесовских сетей // Образовательные технологии и общество. 2017. № 1 С. 446–457.
36. Malchevskaya E.A., Berezin A.I., Zolotin A.A., Tulupyev A.L. Algebraic Bayesian Networks: Local Probabilistic-Logic Inference Machine Architecture and Set of Minimal Joint Graphs // Proceedings of the First International Scientific Conference “Intelligent Information Technologies for Industry” (IITI’16), Volume 451 of the series Advances in Intelligent Systems and Computing. P. 69–79
37. Романов А.В., Левенец Д.Г., Золотин А.А., Тулупьев А.Л. Инкрементальный синтез третичной структуры алгебраических байесовских сетей // XIX Международная конференция по мягким вычислениям и измерениям (SCM-2016). Сборник докладов в 2-х томах. Санкт-Петербург. 25–27 мая 2016. Т. 1. P. 27–29.
38. Романов А.В., Золотин А.А., Тулупьев А.Л. Синтез четвертичной структуры алгебраических байесовских сетей: инкрементальный и декрементальный алгоритмы // Научно-технический вестник информационных технологий, механики и оптики. 2016. Т. 16. № 5. C. 917–927.
39. Зотов М.А., Левенец Д.Г., Тулупьев А.Л., Золотин А.А. Синтез вторичной структуры алгебраических байесовских сетей: инкрементальный алгоритм и статистическая оценка его сложности // Научно-технический вестник информационных технологий, механики и оптики. 2016.Т. 16. № 1. С. 122–132.
40. Shang J.D., Wang Z.L., Huang Q. A Robust Algorithm for Joint Sparse Recovery in Presence of Impulsive Noise // IEEE Signal Processing Letters. 2015. № 22. P. 1166–1170.
41. Peng P.X., Tian Y.H., Wang Y.W., Li J., Huang T.J. Robust multiple cameras pedestrian detection with multi-view Bayesian network // Pattern Recognition. 2015. № 42. P. 1760–1772.
42. Constantinou A.C., Fenton N.E., Neil M. Pi-football: A Bayesian network model for forecasting Association Football match outcomes // Knowledge-Based Systems, 2012. Vol. 36. P. 322–339.
43. Kim J.S., Jun C.H. Ranking evaluation of institutions based on a Bayesian network having a latent variable // Knowledge-Based Systems. 2013. Vol. 50. P. 87–99.
44. Bobadilla J., Ortega F., Hernando A., Gutierrez A. Recommender systems survey // Knowledge-Based Systems. 2013. Vol. 46. P. 109–132.
45. Dabrowski J.J., Villiers J.P. Maritime piracy situation modelling with dynamic Bayesian networks // Information Fusion. 2015. № 23. P. 116–130.
46. Shin J., Son H., Ur R.K., Heo G. Development of a cyber-security risk model using Bayesian networks // Reliability Engineering System Safety. 2015. № 134. P. 208–217.
47. Leu S.S., Chang C.M. Bayesian-network-based fall risk evaluation of steel construction projects by fault tree transformation // Journal of Civil Engineering and Management. 2015. № 21. P. 334–342.
48. Arangio S., Bontempi F. Structural health monitoring of a cable-stayed bridge with Bayesian neural networks. // Structure and Infrastructure Engineering, 2015. № 11. P. 575–587.
49. Chang Y.S., Fan C.T., Lo W.T., Hung W.C., Yuan S.M. Mobile cloud-based depression diagnosis using an ontology and a Bayesian network // Future Generation Computer Systems. 2015. № 43. P. 87–98.
50. Rafiq M.I., Chryssanthopoulos M.K, Sathananthan S. Bridge condition modelling and prediction using dynamic Bayesian belief networks // Structure and Infrastructure Engineering. 2015. № 11. P. 38–50.
51. Hamilton S.H., Pollino C.A., Jakeman A.J. Habitat suitability modelling of rare species using Bayesian networks: Model evaluation under limited data // Ecological Modelling. 2015. № 299. P. 64–78.
52. Liu K.F.R., Kuo J.Y., Yeh K., Chen C.W., Liang H.H., Sun Y.H. Using fuzzy logic to generate conditional probabilities in Bayesian belief networks: a case study of ecological assessment // International Journal of Environmental Science and Technology. 2015. № 12. P. 871–884.
Copyright (c) 2017 Андрей Алексеевич Золотин
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.
Материал публикуется под лицензией: