Собака той - терьер дерет кота, пытается кошку.

Вы своего тоя командам обучали? По поведению видно, что нет. Иначе было бы достаточно дать запрещающую команду - и собака оставила бы кота в покое. Идите на дрессировочную площадку и пройдите с собакой курс мини-ОКД или УГС (управляемая городская собака).

изолировать друг от друга

намордник в помощь

По морде дать. Кормить в очередности: кот, кошка, собака. Собаке давать, когда кошки закончат есть.
У меня собака отнимала еду у кота силой. Разок получила от меня, и кот добавил в догонку. Теперь терпеливо ждет, пока кот поест, только остатки за ним доедает.

Псину эту воспитывать надо и не допускать такого. Пинка наподдать, если видишь, что такое происходит.

Дерёт - в смысле дерутся или у него половая охота началась?
Хотя я бы по мордасам надавал в любом случае. Правда, мои кошки тоя сожрали бы ещё до того, как я успел бы дать ему по мордасам...

Кастрируйте тоя и жить станет легче всем вашим животным

Займитесь воспитанием животных. Дружба между ними вполне возможна, но для этого придётся потрудиться. Почитайте кошачьи сайты, например, миркошек. рф - на них есть статьи на эту тему.