くらしのマーケット開発ブログ

猫のいる会社、みんなのマーケットの技術ブログ

スタートアップの社内ネットワーク構築アンチパターン

こんにちは。みんなのマーケットでCTOをしております戸澤です。

この記事でわかること

スタートアップは、組織の急拡大のため年単位でオフィスの移転をすることがよくあります。 弊社も移転を繰り返し、その度に新しいオフィスの社内ネットワーク構築を行ってきました。

今回は、これまでの社内ネットワーク構築の経験をもとに、5,30,70名のそれぞれの規模のときに、どんな社内ネットワーク構成にしたかを紹介します。 また最後に、それらの経験から得られたアンチパターンをまとめますので、参考になればと思います。

f:id:curama-tech:20180809205438p:plain:w300

社内ネットワーク構築の歴史

弊社は2011年に創業したスタートアップで、東京と宮崎にオフィスがあります。東京オフィスは、これまでに7回の移転をしています。 このうち、最初の4回はシェアオフィスだったため、社内ネットワークの構築と管理は同居している他の会社の方がやってくれましたが、 5回目からは、自社のみのオフィスとなったため、自分たちで構築と管理をするようになりました。 5,6,7回目のそれぞれの移転で、人数が〜5名, 〜30名, 〜70名規模のオフィスとなったため、この組織規模別に社内ネットワークの構成を紹介していきます。

また、弊ブログの「Amazon Connect使ってみた!」の なぜ電話システム(IVR)が必要なのかでも触れていますが、 弊社には電話を多く使う業務があり、その電話はコンサル電話と呼ばれるブラウザ上から電話できるシステムを使って行われます。 tech.curama.jp

この電話の通信はWi-Fiを通して行われ、音声が途切れたり、相手の声が聞こえないなどのトラブルを何度も経験してきました。

電話というジッターやレイテンシ等の条件がある中で、持ち運びやすさのために有線LANの接続ではなくWi-Fi接続で安定させるための取り組みを行ってきましたので、その経験も参考になればと思います。

〜5名

当時、マンションの1LDK一室をオフィスにしていました。 この広さ、人数であれば、一般家庭でのネット利用と変わらず、家庭向けの機器や回線を選択することでコストも抑えられます。

なので、

  • ルーター(Wi-FiのAP付き): NECの家庭用のもの(Atermシリーズ)
  • 回線: フレッツ(マンションタイプ&最大1Gbps) + 個人向けISP(月800円ほど)

以上の構成で問題なく、ネットが利用できました。

〜30名

30名となると、広さはマンションの一室レベルではなくオフィスレベルになり、クライアント数も多くなるので、家庭用の機器では対応できません。 そのため、ルーターとアクセスポイント(AP)を業務用の機種から新しく導入しました。

ルータの選定は、他の方が書かれた記事を参考にしながら、YAMAHAで規模にあう機種を選びました。 YAMAHAのルーターを初めて導入するため、こちらの本も参考に構築を進めました。

ノンエンジニアのための社内ネットワーク施工・構築ガイド 20~40人規模のLAN環境を自分で作ろう (Do IT Yourself)

ノンエンジニアのための社内ネットワーク施工・構築ガイド 20~40人規模のLAN環境を自分で作ろう (Do IT Yourself)

また、回線もクライアント数の増加に対応できるよう、フレッツより大きい帯域幅が謳われているものを用意しました。

  • ルーター: YAHAMA RTX810
  • AP: Buffaloの業務用AP
  • 回線: フレッツのシェアドアクセス方式を利用した会社のもの

以上の構成で問題なく、ネットが利用できました。

〜70名(現在)

30名のオフィスでは、回線にフレッツより帯域幅の大きいシェアドアクセス方式のものを利用していました。 新オフィスでも継続利用を検討しましたが、移転工事にあたりフレッツよりも開通に時間を要するという説明を受け、 早くの移転を予定していたためそれに間に合うように、比較的開通までの時間が短いフレッツを利用することにしました。

当初、フレッツでは厳しいと考えていましたが、問題なく使えることがわかり現在も継続して使用しています。 NTTの収容局の混雑具合にもよりますが、70名規模でもフレッツで問題なく通信できていることから、〜30名でもファミリータイプであれば問題なく使えたと思っています。

ルーターはRTX810だとNATディスクリプターが近々枯渇することが予想できたので、より多くのNATディスクリプターをサポートしている上位機種のRTX1210を導入しました。

また、APもBuffalo1台のみでは対応できるクライアント数が厳しいので、今後YAMAHAでネットワーク機器を揃える方針でYAMAHAのAPを1台追加し、BuffaloとYAMAHAを併用しました。

  • ルーター: YAMAHA RTX1210
  • AP: Buffaloの業務用AP x1 + YAMAHAのAP x1
  • 回線: フレッツ(ファミリータイプ&最大1Gbps) + 個人用のISP

これでしばらく問題なく使えていたのですが、Windowsアップデートの日に回線が重くなり、パケットロスが多く発生しました。 弊社のWindows端末は数台だけで、社内のWindowsアップデートではなく、そのISPの利用者全体のアップデートに起因しているようでした。

ISP側もWindowsアップデートの日は重くなることを把握していて、毎月のWindowsアップデート日に発生する可能性があり業務に支障がでることが予想されるため、個人用ISPからIIJの法人向けISPに切り替えました。 IIJのISPはSLAがあり、今のところ、Windowsアップデート日やそれ以外でも重くなることは経験していません。

  • ルーター: YAMAHA RTX1210
  • AP: Buffaloの業務用AP x1 + YAMAHAのAP x1
  • 回線: フレッツ(ファミリータイプ&最大1Gbps) + IIJの法人向けISP

この構成で利用していきましたが、人数が60名くらいから稀にコンサル電話の音声が途切れるという問題が発生し始めます。 トラフィックを監視していると途切れが発生する直前に、大容量の通信(ISOファイルのダウンロードなど)が走ると、途切れが発生することがわかり、ルータとAPででQOSと端末ごとの速度制限を導入しました。 速度制限は250Mbpsといったかなり高速の通信をある時間以上すると、通信速度を不便にならない範囲で落とす仕組みです。これで途切れは減ったものの、まだ度々起きる状態でした。

電話トラブルの厄介なところは、原因がネット環境以外にも考えられることです。 ヘッドセットの調子、ブラウザ、電話システムのバグ、相手の通信状況など場合によっては、これらが原因のこともありました。

有線接続の場合は途切れが少ないとの声もあり、社内ネットワーク構築の会社の意見を聞いたところ、 現在の2台のAPでは台数が足りなく、メーカーも別でAP間の連携が取れないため端末分散ができないため、APで通信が詰まっている可能性があるという話になりました。 検証用のAPを導入し試験運用してみたところ、途切れがなくなったため、APの増設工事を依頼しました。

  • ルーター: YAMAHA RTX1210
  • AP: ArubaのAP x4
  • 回線: フレッツ(ファミリータイプ&最大1Gbps) + IIJの法人向けISP

現在は、この構成でネットを利用しています。 電話の途切れはなく、APのメーカーも統一されたことで管理が楽になりました。

これからこうしたい

クライアント数が増えること、トラブル時の損失のインパクトも大きいことを考えると、フレッツのベストエフォートのプランではなく、帯域保証のプランに変えるつもりです。

また、当初からの流れで私がメインとなって社内ネットワークの管理をしてきましたが、今後の規模を考えると次回からはエンジニアにメインの管理をお願いしたいと思っています。

アンチパターン

さて、社内ネットワーク構築の歴史をもとに、アンチパターンをまとめていきます。

機器間の連携が取れないAPを導入する

バラバラのメーカーのAPを導入すると、設定を変える際にmaster機で設定したものをslave機に自動反映することができず、個々に設定することになり管理がつらいです。 また、自動チャンネル変更もAP間で連携が取れなく、双方で永遠とチャンネル変更を繰り返してWi-Fiが何度も途切れることがありました。

現在は同じメーカーのAPを導入していて連携が取れるため、1台のAPにクライアントが集中しないように、AP間での端末分散もできるようになりました。

最初に複数台購入するときはもちろん揃えるとして、 途中でメーカーを変えたくなった場合でも、古いメーカーは使わずに、すべてのAPを新しく導入するメーカーで揃えることをおすすめします。

ジッターやレイテンシが通信要件に入っているのにWi-Fiを使う

専門の会社にAPの増設工事をしてもらい、Wi-Fiでの電話利用ができていますが、今後クライアント数が多くなった場合はどうなるかわかりません。

無線と有線は、トレードオフなところがあるので状況によるとは思いますが、トラブル時の対応工数を考えると有線LANを使うことをおすすめします。

また、ジッターやレイテンシ、パケットロスなどが通信要件に入っている場合、専門の会社に相談して設計や機種選定、キャパシティプランニングを行うことをおすすめします。

SLAのない個人向けISPで頑張る

問題なく使えていたという理由で個人用ISPを継続利用しましたが、ある日回線が遅くなる現象が起きました。

急ぎで導入したい場合は個人ISPの方が早いと思いますが、問題ないからといってそのまま継続するのではなく、 トラブル時の業務や売上へのインパクトを考えて、SLAや帯域保証があるISPに後に変えることをおすすめします。

今の人数だけに対応できる機種を導入する

30名から70名への移転する際、ルーターの買い替えをしました。 数年以内のオフィスの移転が見えているなら、最初から上位機種を購入した方が良かったと思います。

人数に対してオーバースペックにはなりますが、耐用年数は数年程度ではないので、今後の増員を見越して長く使えるものを導入することをおすすめします。

自分ですべて管理できると思う

トラブルが起きた際にネットワークに強いエンジニアの方であれば、問題ないのだとおもいますが、そうでない場合は対応工数が大きいです。 自分でやることで勉強になるという利点はあるのですが、特に電話の途切れトラブルでAPに起因する部分は早い段階で専門業者に相談するべきでした。

最近では、すべてマネージドでやってくれるサービスもあるようなので、社内メンバーがプロダクトに集中して、マネージドできるものはお願いするという選択は大いにありだと思います。

最後に

今回は組織の人数別に事例を紹介しましたが、実際は人数よりも接続するクライアントの数や利用状況への依存が大きいので、考慮した上で適用する必要があります。

最後に、みんなのマーケットに興味がありましたら、会社の雰囲気や事業を知っていただくための、ざっくばらんな面談もやってますので、ぜひ連絡ください。

次回は、Backendエンジニアのトゥエンさんがお送りします。