Development of Probabilistic-Logic Inference in Algebraic Bayesian Networks

  • Андрей Алексеевич Золотин SPIIRAS,Saint-Petersburg,Russia
Keywords: probabilistic graphical models, algebraic Bayesian networks, Bayesian trust networks, probabilistic logic inference, expert systems

Abstract

The paper presents a brief history of the probabilistic graphic models formation and examines the reasons for their appearance. Special attention is given to Bayesian trust networks and related algebraic Bayesian networks, which are a representation of knowledge bases with uncertainty. Key achievements in the development of probabilistic-logic appartus in algebraic Bayesian networks and Bayesian trust networks are presented along with examples of the Bayesian trust networks using cases in software products. The review of the probabilistic-logic inference apparatus development is continued with the matrix-vector formulation and proof of the solution of the first task posterior inference. In addition, the problems in algebraic Bayesian networks currently being faced by researchers are listed. This paper might be useful to lecturers of disciplines on modern research in the field of artificial intelligence, to students specializing in information technologies, who are considering promising topics for their term papers, final or research papers and to the staff of it companies, exploring the possibilities of applying mathematical models in business processes.

Author Biography

Андрей Алексеевич Золотин, SPIIRAS,Saint-Petersburg,Russia

Andrey A. Zolotin, Department of Computer Science, Mathematics & Mechanics Faculty, St. Petersburg State University, post graduate student; Laboratory of Theoretical and Interdisciplinary Computer Science (TICS Lab) St. Petersburg Institute for Informatics and Automation of the Russian Academy of Sciences (SPIIRAS), trainee researcher; 198504, Saint Petersburg, Universitetsky prospekt, 28, SPbSU, Department of Computer Science, Mathematics & Mechanics Faculty, andrey.zolotin@gmail.com

References

1. Тулупьев А.Л., Николенко С.И., Сироткин А.В. Байесовские сети: логико-вероятностный подход. СПб.: Наука, 2006.
2. Nilsson N.J. Probabilistic Logic // Artificial Intelligence. 1986. Vol. 47. Amsterdam: Elsevier Science Publishers B.V., 1986. P. 71–87.
3. Тулупьев А.Л., Сироткин А.В., Николенко С.И. Байесовские сети доверия: логиковероятностный вывод в ациклических направленных графах. СПб.: Изд-во С.-Петерб. ун-та, 2009.
4. Тулупьев А.Л., Николенко С.И., Сироткин А.В. Байесовские сети: логико-вероятностный подход. СПб.: Наука, 2006.
5. Bool G. An Investigation of the Laws of Thought, on Which Are Founded the Mathematical Theories of Logic and Probabilities. Cambridge: Macmillan / London: Walton & Maberly, 1854. (Reprinted in 1951, Dover Publications, New York.)
6. Юшкевич А.П. История математики. Т. III. Математика XVIII столетия М.: Наука, 1972.
7. Pearl J. Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference. N.Y.: Morgan Kaufman Publ. 1991.
8. Jensen F.V. Bayesian Networks and Decision Graphs // Springer-Verlag. 2002.
9. Городецкий В.И. Алгебраические байесовские сети — новая парадигма экспертных систем // Юбилейный сборник трудов институтов Отделения информатики, вычислительной техники и автоматизации РАН. Т. 2. М.: РАН. 1993. С. 120–141.
10. Городецкий В.И., Тулупьев А.Л. Формирование непротиворечивых баз знаний с неопределенностью // Изв. РАН. Сер. Теория и системы управления. 1997. Т. 5. С. 33–42.
11. Тулупьев А.Л., Сироткин А.В. Алгебраические байесовские сети: принцип декомпозиции и логико-вероятностный вывод в условиях неопределенности // Информационно-измерительные и управляющие системы. 2008. Т. 6. № 10. С. 85–87.
12. Тулупьев А.Л. Вероятностные сети: логико-вероятностная парадигма в искусственном интеллекте // Нечеткие системы и мягкие вычисления (НСМВ-2008): Сборник научных трудов Второй Всероссийской научной конференции с международным участием (г. Ульяновск, 27–29 октября 2008 г.). В 2 т. Т. 1. Ульяновск: УлГТУ, 2008. С. 56–78.
13. Тулупьев А.Л. Вероятностная логика и вероятностные графические модели в базах фрагментов знаний с неопределенностью // Интегрированные модели, мягкие вычисления, вероятностные системы и комплексы программ в искусственном интеллекте. Научно-практическая конференция студентов, аспирантов, молодых ученых и специалистов (Коломна, 26–27 мая 2009 г.). Научные доклады. В 2-х т. Т. 1. М.: Физматлит, 2009. С. 26–46.
14. Тулупьев А.Л. Поддержание непротиворечивости фрагмента знаний с интервальной нечеткой мерой оценки неопределенности // Теоретические основы и прикладные задачи интеллектуальных информационных технологий: Сб. трудов СПИИРАН. СПб.: СПИИРАН, 1998. С. 82–92.
15. Тулупьев А.Л. Поддержание непротиворечивости фрагментов знаний с оценками доверия и правдоподобия // Информационные технологии и интеллектуальные методы: Сб. трудов СПИИРАН. 1999. Вып. 3. СПб.: СПИИРАН, 1999. С. 72–97.
16. Сироткин А.В., Тулупьев А.Л. Матрично-векторные операции с неточными вероятностями // Научная сессия МИФИ-2009. Аннотации докладов. В 3 т. Т. 3: Информационно-телекоммуникационные системы. Проблемы информационной безопасности в системе высшей школы. Экономика, инновации и управление. М.: МИФИ, 2009. С. 85.
17. Сироткин А.В., Тулупьев А.Л., Николенко С.И. Устойчивость и множественная устойчивость глобальной непротиворечивости алгебраических байесовских сетей // Труды СПИИРАН. 2005.Вып. 2. Т. 2. СПб.: Наука, 2005. C. 86–93.
18. Тулупьев А.Л., Никитин Д.А., Ромашова М.Н., Лакомов Д.П., Тишков А.В. Априорный и апостериорный вывод на элементе структурированной сети фрагментов знаний, геометрическое представление фрагментов знаний // VII Санкт-Петербургская международная конференция «Региональная информатика–2000 (РИ-2000)», Санкт-Петербург, 5–8 декабря 2000 г.: Труды конференции. СПб., 2001. C. 112–116.
19. Никитин Д.А., Тулупьев А.Л. Сведение задачи апостериорного вывода во фрагменте знаний к задаче линейного программирования (в случае детерминированного свидетельства) // VIII Санкт-Петербургская международная конференция «Региональная информатика–2002 (РИ-2002)», Санкт-Петербург, 26–28 ноября 2002 г.: Материалы. СПб., 2002. C. 46.
20. Никитин Д.А., Тулупьев А.Л. Сведение задачи апостериорного вывода во фрагменте знаний к задаче линейного программирования // VIII Санкт-Петербургская международная конференция «Региональная информатика–2002 (РИ-2002)», Санкт-Петербург, 26–28 ноября 2002 г.: Труды. СПб., 2003. C. 85–89.
21. Тулупьев А.Л. Алгебраические байесовские сети: глобальный логико-вероятностный вывод в
деревьях смежности: Учеб. пособие. СПб.: СПбГУ, ООО Издательство «Анатолия», 2007.
22. Тулупьев А.Л. Преобразование ациклических байесовских сетей доверия в алгебраические байесовские сети // Известия высших учебных заведений: Приборостроение. 2009. № 3. С. 21–23.
23. Тулупьев А.Л. Система представления алгебраических байесовских сетей и их фрагментов Algebraic Bayesian Networks Modeler, Version 01 for Java (AlgBN Modeler j.v.01) (Свидетельство). Свид. о гос. рег. прогр. для ЭВМ. Рег. № 2009613802 (16.07.2009). Роспатент. Бюлл. «Прогр. для ЭВМ, БД, топол. инт. микросх.». 2009. № 4. С. 64–65.
24. Тулупьев А.Л., Столяров Д.М., Ментюков М.В. Представление локальной и глобальной структуры алгебраической байесовской сети в Java-приложениях // Труды СПИИРАН. 2007. № 5. С. 71–99.
25. Тулупьев А.Л., Сироткин А.В. Матричные уравнения локального логико-вероятностного вывода оценок истинности элементов в алгебраических байесовских сетях // Вестник Санкт-Петербургского университета. Серия 1. Математика. Механика. Астрономия. 2012. № 3. C. 63–72.
26. Сироткин А.В. Комплекс программ логико-вероятностного вывода в базах фрагментов знаний: реализация фрагмента знаний // Труды СПИИРАН, 2013. Т. 25. С. 204–220.
27. Тулупьев А.Л., Сироткин А.В., Золотин А.А. Матричные уравнения нормирующих множителей в локальном апостериорном выводе оценок истинности в алгебраических байесовски сетях // Вестник Санкт-Петербургского университета. Серия 1. Математика. Механика. Астрономия. 2015 Т. 2. № 3. С 379–386.
28. Фильченков А.А., Тулупьев А.Л. Связность и ацикличность первичной структуры алгебраической байесовской сети // Вестник Санкт-Петербургского университета. Серия 1. Математика. Механика. Астрономия. 2013. № 1.
29. Фильченков А.А., Тулупьев А.Л., Сироткин А.В. Минимальные графы смежности алгебраической байесовской сети: формализация основ синтеза и автоматического обучения // Нечеткие системы и мягкие вычисления. 2011. Т. 6. № 2. С. 145–163.
30. Фроленков К.В., Фильченков А.А., Тулупьев А.Л. Апостериорный вывод в третичной полиструктуре алгебраической байесовской сети // Труды СПИИРАН. 2012. Т. 4. № 23. С. 343–356.
31. Фильченков А.А. Визуальная инструментальная платформа для работы с алгебраическими байесовскими сетями // Международная конференция по мягким вычислениям и измерениям. СПБГЭТУ «ЛЭТИ». 2012. Т. 1. С. 195–199.
32. Tulupyev A.L., Sirotkin A.V., Zolotin A.A. Matrix equations for normalizing factors in local a posteriori inference of truth estimates in algebraic Bayesian networks // Vestnik St. Petersburg University: Mathematics July 2015. Vol. 48. Iss. 3. P. 168–174.
33. Золотин А.А., Тулупьев А.Л., Сироткин А.В. Матрично-векторные алгоритмы локального апостериорного вывода в алгебраических байесовских сетях над пропозициями квантами // Научно-технический вестник информационных технологий, механики и оптики. 2015. Т. 15. № 4. С. 676–684.
34. Золотин А.А., Мальчевская Е.А. Матрично-векторные алгоритмы локального апостериорного вывода в алгебраических байесовских сетях над идеалами дизъюнктов // XIX Международная конференция по мягким вычислениям и измерениям (SCM-2016). Сборник докладов в 2-х томах. Санкт-Петербург. 25–27 мая 2016. Т. 1. С. 79–82.
35. Золотин А.А., Левенец Д.Г., Зотов М.А., Бирилло А.И., Березин А.И., Иванова А.В., Тулупьев А.Л. Алгоритмы обработки и визуализации алгебраических байесовских сетей // Образовательные технологии и общество. 2017. № 1 С. 446–457.
36. Malchevskaya E.A., Berezin A.I., Zolotin A.A., Tulupyev A.L. Algebraic Bayesian Networks: Local Probabilistic-Logic Inference Machine Architecture and Set of Minimal Joint Graphs // Proceedings of the First International Scientific Conference “Intelligent Information Technologies for Industry” (IITI’16), Volume 451 of the series Advances in Intelligent Systems and Computing. P. 69–79
37. Романов А.В., Левенец Д.Г., Золотин А.А., Тулупьев А.Л. Инкрементальный синтез третичной структуры алгебраических байесовских сетей // XIX Международная конференция по мягким вычислениям и измерениям (SCM-2016). Сборник докладов в 2-х томах. Санкт-Петербург. 25–27 мая 2016. Т. 1. P. 27–29.
38. Романов А.В., Золотин А.А., Тулупьев А.Л. Синтез четвертичной структуры алгебраических байесовских сетей: инкрементальный и декрементальный алгоритмы // Научно-технический вестник информационных технологий, механики и оптики. 2016. Т. 16. № 5. C. 917–927.
39. Зотов М.А., Левенец Д.Г., Тулупьев А.Л., Золотин А.А. Синтез вторичной структуры алгебраических байесовских сетей: инкрементальный алгоритм и статистическая оценка его сложности // Научно-технический вестник информационных технологий, механики и оптики. 2016.Т. 16. № 1. С. 122–132.
40. Shang J.D., Wang Z.L., Huang Q. A Robust Algorithm for Joint Sparse Recovery in Presence of Impulsive Noise // IEEE Signal Processing Letters. 2015. № 22. P. 1166–1170.
41. Peng P.X., Tian Y.H., Wang Y.W., Li J., Huang T.J. Robust multiple cameras pedestrian detection with multi-view Bayesian network // Pattern Recognition. 2015. № 42. P. 1760–1772.
42. Constantinou A.C., Fenton N.E., Neil M. Pi-football: A Bayesian network model for forecasting Association Football match outcomes // Knowledge-Based Systems, 2012. Vol. 36. P. 322–339.
43. Kim J.S., Jun C.H. Ranking evaluation of institutions based on a Bayesian network having a latent variable // Knowledge-Based Systems. 2013. Vol. 50. P. 87–99.
44. Bobadilla J., Ortega F., Hernando A., Gutierrez A. Recommender systems survey // Knowledge-Based Systems. 2013. Vol. 46. P. 109–132.
45. Dabrowski J.J., Villiers J.P. Maritime piracy situation modelling with dynamic Bayesian networks // Information Fusion. 2015. № 23. P. 116–130.
46. Shin J., Son H., Ur R.K., Heo G. Development of a cyber-security risk model using Bayesian networks // Reliability Engineering System Safety. 2015. № 134. P. 208–217.
47. Leu S.S., Chang C.M. Bayesian-network-based fall risk evaluation of steel construction projects by fault tree transformation // Journal of Civil Engineering and Management. 2015. № 21. P. 334–342.
48. Arangio S., Bontempi F. Structural health monitoring of a cable-stayed bridge with Bayesian neural networks. // Structure and Infrastructure Engineering, 2015. № 11. P. 575–587.
49. Chang Y.S., Fan C.T., Lo W.T., Hung W.C., Yuan S.M. Mobile cloud-based depression diagnosis using an ontology and a Bayesian network // Future Generation Computer Systems. 2015. № 43. P. 87–98.
50. Rafiq M.I., Chryssanthopoulos M.K, Sathananthan S. Bridge condition modelling and prediction using dynamic Bayesian belief networks // Structure and Infrastructure Engineering. 2015. № 11. P. 38–50.
51. Hamilton S.H., Pollino C.A., Jakeman A.J. Habitat suitability modelling of rare species using Bayesian networks: Model evaluation under limited data // Ecological Modelling. 2015. № 299. P. 64–78.
52. Liu K.F.R., Kuo J.Y., Yeh K., Chen C.W., Liang H.H., Sun Y.H. Using fuzzy logic to generate conditional probabilities in Bayesian belief networks: a case study of ecological assessment // International Journal of Environmental Science and Technology. 2015. № 12. P. 871–884.
Published
2017-11-22
How to Cite
Золотин, А. А. (2017). Development of Probabilistic-Logic Inference in Algebraic Bayesian Networks. Computer Tools in Education, (3), 5-19. Retrieved from http://cte.eltech.ru/ojs/index.php/kio/article/view/1475
Section
Computer science