NTOS-RDBで利用していたMIX形式をOracleで実現する場合のOracleの表定義（キーの設定）、COBOLでの記述はどのようになるのでしょうか？
また、COBOL上での言語記述は、 基本的にNTOS-RDBの記述と同じなのでしょうか？

COBOLソース上は、全くNTOS-RDBと同じもので結構です。
あとは、DBリンクキット設定／RDB表定義の問題ですが..
キーファイルをオープンすることになると思いますので、DBリンクキットの表対応テーブルに、
　COBOL表名　-> キーファイル名を指定
　DB／表名　 -> 実際の表を指定
　　　　　　　　(データファイルに指定したものと同じもの)
した「表情報」を追加することにより実現できます。

RDB表定義には、「キー」に相当する項目に「索引(インデックス)」を作成する必要があることは言うまでもありません。
DBリンクキットヘルプの、「Oracle の準備」->「索引の作成」にリンクキットに都合のよい索引の作成方法を記載しています。
実際に索引を作成する場合には、ここをご参照ください。