Про ковариацию альтернативных случайных величин

Рубрика #очевидное_невероятное.

Пусть есть случайные явления А и B.

Первую строчку на картинке можно прочитать так: явления независимы тогда и только тогда, когда вероятность их одновременного наступления равна произведению вероятностей каждого явления по отдельности; это мы знаем с курсов введения в теорвер.

Если нам захочется померять зависимость событий, мы можем, например, перенести левую часть равенства в правую, так мы получим "индекс зависимости". Оказывается, что ковариация индикаторов явлений — это и есть этот самый индекс зависимости (вторая строчка на пикче)!

1. Для независимых событий индекс равен нулю — по определению независимости. Заметим, что "некоррелированные" события всегда независимы.

2. Если индекс положительный, то события позитивно коррелируют; одновременное наступление событий случается чаще, чем при независимости событий, мы с Тамарой ходим парой.

3. Если индекс отрицательный, то наоборот, события имеют склонность "избегать друг друга" и происходить по отдельности, но не вместе.

Это все можно дальше увязывать с интеракциями между категориальными переменными в бинарной регрессии, таблицами сопряженности и анализом Пирсоновских остатков в таблицах сопряженности.
Это же рассуждение проливает свет на устройство хи-квадрат статистики и объясняет, почему хи-квадрат -- это действительно аналог корреляционного анализа для дискретных величин.
А еще оно, возможно, позволит сконструировать что-то типа коэффициента зависимости для дискретных величин (и получится что-то близкое к хи-квадрат статистике).

Вторая строка снизошла на меня вот прям сегодня. Админ не тормоз, он очень-очень медленный газ.