事業を始めるに当たっては開業届けを最寄りの税務署に提出しましょう。
もしも確定申告を青色申告する場合は青色申告承認申請書も一緒に提出しましょう。
開業する日はある程度さかのぼって提出しても問題は無いと言われていますが、青色申告承認申請書は開業した日から２ヶ月以内もしくは青色申告の承認を浮けようとする年の3月15日までに提出しないといけません。一度の手続きで終わらせるのならば開業届けの開業日を２ヶ月いないとする方が楽かと思います。

郵送する場合は開業届は2枚入れて返信用封筒も同封しよう
開業届を記載済みのもの２枚を入れて返信用封筒を同封して受付印を押された控えを返送されてきます。
これが唯一の個人事業を始めたという印となります。
開業届けがあると、○●商店のような屋号を使って銀行の通帳を作ることもできます。

白色申告も帳簿の保存が必要
以前は白色申告の時は帳簿の保存はいらなかったらしいですが、法廷帳簿は7年保管する必要があります。これは青色申告と変わらない内容ですので、せっかくなら手間は掛かりますが最大65万の控除が受けられる青色申告にしておくことがよいと思います。
青色申告は帳簿の付け方は初めは勉強しないといけない事ですが、ネット上の会計ソフトを使えば簡単に青色申告の書類は完成します。

節税のための開業(要青色申告)
もしも、脱サラして事業を起こす予定があるのであれば、早めに開業届を出しておいて準備期間の赤字を累積していけば節税ができるかもしれません。ただ青色申告の帳簿付けは必要です。
開業しないといけない事情、節税のための開業