ORA-01033 ORACLE initialization or shutdown in progress

メモリ割り当てに失敗しているときに発生する。
一般的に、SGA(システムグローバル領域)とPGA(プログラムグローバル領域)が存在し、これらは自動的に割り当てが行われるものだが、手動で強制的に設定することもできる。
32ビットシステム機においては、SGAとPGAの合計値が2GBを超えるようなことは一般的にお勧めできない。

ORA-27101 Shared memory realm does not exist

このエラーが発生している場合には、oracle_sidがセットされていないために、データベースのマウントならびにオープンが失敗している。とりあえずの対応方法は以下のとおり。
MS-DOSプロンプトを開く
set oracle_sid=(SID名)
sqlplus /nolog
connect sys/(sysユーザーパスワード) as sysdba
startup
これをやると
データベースがマウントされました
データベースがオープンされました
と表示されるので、接続できるようになる。
Windows起動時に正常に起動できる場合とそうでない場合があるようなことがあれば、【トラブル】OS起動時にDBが起動しないを参考にsqlnet.oraにある
SQLNET.AUTHENTICATION_SERVICES=(NTS)

SQLNET.AUTHENTICATION_SERVICES=(NONE)
へ変更してあげると良い。