Лариса, собаки не всегда строят линейную иерархию, точнее практически никогда не строят так просто. 
Я плохо знаю кошек, но если подходить к ситуации с позиции воспитания собаки, то наверное стоит делать так: 
1. Кошка с собакой встречаются (и взаимодействуют) только в вашем присутствии. И происходит это так долго, сколько требуется для выработки правильного стереотипа отношений. 
2. Вы постоянно отсматриваете их взаимодействие - и на расстоянии (взгляды, выгнутые спины, вставшую дыбом холку, скалящиеся зубы - ну что там у вас есть), и вблизи, и даете нужные подкрепления. 
3. Вы создаете нужный положительный общий настрой обычными способами - отвлекая, переключая того, кто проявляет агрессию или настороженность. 
Итак - ты сидишь, кошка рядом, подходит Нюша и начинает взглядом сверлить в кошке дырку - отвлеки, усади рядом, в непосредственной близости от кошки. Сидит спокойно, хоть минуту - дай вкусняшку. Опять уставилась - одерни или наступи тихонько на лапу. Лучше, чтобы отрицательное подкрепление не было связано с тобой - условный рефлекс на то и условный, чтобы действовать в присутствии всех условий - тебя в первую очередь. 
Основная задача - добиться нейтральных отношений, отсутствия активных реакций. За спокойствие и нейтралитет - хвалить и угощать, за проявление скрытой или явной агрессии - наступать на лапу (условно, можно придумать и другое отриц. подкрепление). 
Когда научились при тебе, сидящей между ними, соблюдать нейтралитет - можно в этой же комнате заняться своими делами, но глаз не спускать. Прошли этот этап - можно оставить их вдвоем, но подглядывать... 
Ну вот как-то так. Больше сходу сообразить не могу, температура, голова не варит... 
Постараюсь найти статейку Карен Прайор про то, как она делала именно это - примиряла собак и кошку. Но уже не сегодня... Классно, выглядело, помню, все просто, но за давностью деталей, конечно, не помню...