Видимо требуется разъяснение работы схемы, чтобы вы могли осмысленно её настраивать. Обрезал всё лишнее, чтобы не мешало.
Операционный усилитель (ОУ) сравнивает напряжения на своих входах и если напряжение на прямом входе (3) больше, чем на инверсном (2), то на выходе (6) высокий уровень и наоборот.
TL431 включен как стабилитрон с напряжением 2,5 Вольта. R6 задаёт через него ток. (Вы поставили 2,2 кОм - нормально.) Т.е. на 2 ноге ОУ всегда стабильно 2,5 Вольта. Конденсатор С1 сглаживает возможные помехи. Можно поставить 1 - 10 uF.
Ваша задача - подобрать делитель R2-R3-R4 таким образом, чтобы при напряжении батареи 11 Вольт на 3 ноге ОУ стало чуть меньше 2,5 Вольта и он выключился. Номинал R7 не сильно критичен.
R8 задаёт гистерезис, т.е. разницу между верхним порогом компаратора и нижним. Когда на выходе ОУ высокий уровень, через этот резистор подаётся положительный потенциал на прямой вход, снижая его чуствительность (понижая порог отключения). Если бы его не было, компаратор переключался бы при малейшем изменении напряжения батареи. Чем меньше номинал этого резистора, тем больше гистерезис, попробуйте поставить порядка 1 МОм.
Регулировки гистерезиса и порога отключения взаимосвязаны, поэтому придется несколько раз подкручивать подстроечник.
По поводу цикличности включения - выключения у вас при наладке. Есть подозрение, что источник питания нестабилен: реле отключается, нагрузка на БП уменьшается, напряжение питания возрастает, С1 медленно заряжается, реле снова включается, напряжение проседает и т.д. А так как R8 у вас стоит 2 МОм, то и гистерезис минимален.
Диоды в базе транзистора: УД701 - не очень подходит в данную схему, в результате даже в выключенном состоянии на его выходе имеется некоторое напряжение, и транзистор полностью не закрывался. Это напряжение и падает на диодах.
Есть и более простая
схема без ОУ и реле, как упоминали выше, но моё впечатление от неё - она более капризна в настройке. Там нужно добиваться очень чёткого переключения полевика, иначе он начинает сильно греться.