会社が了解すれば、2週間で辞めることは、当然可能です。会社が了解しない場合が問題になります。(会社が了解しない場合、民法上は2週間で退職可能ですが、就業規則と民法のどちらが優先するかは、どちらの見解もある様ですので、確実なことは言えません。)
まずは、「不眠、動悸、なんでもないのに悲しくなる」と言う様な自分の状態を言って、お願いしましょう。あなたの上司も「本人がつらい場合は仕方がない」と言って居られるとのことですので、分って貰える可能性も大いにあるでしょう。
また、最初は、後任が見つかるまでは職場にいると伝えた訳なので、それから状況や考えが変わったのですから、その旨、早急に伝えるべきです。会社にも都合がありますので。
退職願か退職届かですが、退職願の方が穏便な感じですが、絶対に辞ざるを得ない様な体の状況や精神状態、また、絶対にその日に辞めるという決心がかたいなら、法的には、「届」の方がいい様です。
それから、有給が残っている場合は、それを消化した日付に設定して大丈夫です。退職届けに、有給の消化について、何日から何日までは有給を使う旨も書いて置いた方が後で、問題になるよりいいかも知れませんね。
会社と話がこじれた場合は、「労働基準監督署」に相談するといいと思います。また、会社に「労働基準監督署」に相談する旨を言えば、会社も面倒なことになりそうなので、折れてくれる可能性もあるかなぁと思います。「労働基準監督署」は、ネットで検索して見て下さい。
いずれにしろ、何はともあれ、会社に意思を伝えないと始まりません。残された人達を気遣う気持ちや止めづらい気持ちは分りますが、最後は自分を守るしかありません。
それから、今、完全にピンチなのならば、突然だとしても休んでいいのですよ。
それでは、お体に気を付けて、頑張って下さい。