AWS CloudformationでMLFlowサーバを構築した

AWS CloudformationでMLFlowサーバを構築した。MLFlowサーバのバックエンドには、S3とRDSを使用している。 AWS Cloudformationで以下のYAMLファイルでStackを構築すれば、VPCやSubnet、ロール、MLFlowがインストールされたEC2インスタンスなどが自動的に構築…

300 USD分のAWS無料クレジットを申請して、もらった

AWSを開始するとすぐに、300USDほしくないですか?というメールがくる。ほかの方の記事を見てみると受け取れたり受け取れなかったりしているみたいなので、参考までに自分はどうやって申請したら受け取れたかを書いておく。 申請内容 あまり詳細は覚えていな…

【合格体験記】エンベデッドシステムスペシャリスト試験(令和5年度秋期) (午後Ⅰ 95点)

エンデベッドシステムスペシャリスト合格しました。思ったよりも高得点だったので合格体験記を書こうと思います。 過去に合格した試験 基本情報技術者試験 応用情報技術者試験 ネットワークスペシャリスト 受験理由 業務が組み込みに近いので、自主学習がて…

PythonでDynamoDBをローカルにバックアップするコード

DynamoDBをダウンロードしてローカルにCSVで保存する。 1回のScanでは1MBしか取れないので、最後までループして取得している。 データはtimestamでソートしている。 import boto3 import pandas as pd aws_access_key_id = 'xxx' aws_secret_access_key = 'y…

OpenCVで重なりのある物体の領域分割

OpenCVで、重なりのある物体の領域分割をやってみた。 以下の関数では領域分割を行い、その領域をクロッピングして返却する。 領域分割がうまくいかない場合は、dist_factorを調整する。これは重なりが大きい場合は小さく、重なりが小さい場合は大きい値にす…

Vision Transformerによるクラス分類を実装してみた

Vision Transformer (ViT)によるクラス分類を実装したのでメモしておく。 参考にしたサイト様 farml1.com 以下のコードは、Google colabで実行する。 必要なライブラリのインストール !pip install timm seaborn linformer tqdm pandas import (全部はいらな…

AWSの無料枠でBitCoinの自動売買プログラム組んでみた

AWSの勉強として、BitFlyerのAPIを使用して、BitCoinの自動売買プログラムを組んでみた。今回の主目的はAWSの勉強なので、実際儲かるかは不明。 ※2023/12/30 追記 以下の構成だとCloudWatchの料金が0.1USD/Dayかかるので、完全無料ではないです。 準備するも…

BitflyerのAPIを使用して、Bitcoin自動売買プログラムを作成した

Bitコインの自動売買プログラムを作った。注文のトリガーには移動平均を用いて、長期の移動平均が、短期の移動平均を上回ったとき、指値で購入する。購入に成功したら、同時に0.4%上乗せして売り注文を出す。 参考にしたサイト zero-cheese.com import reque…

WSL2でSSHサーバを立てて外部からアクセスできるようにする手順

以下を参考に、WSL2をインストール and-engineer.com 以下を参考に、Systemdを有効にする。 qiita.com wsl.confに以下を記入する。 [boot] systemd=true 以下を参考に、TCPの22番ポートを開放する。 https://support.borndigital.co.jp/hc/ja/articles/36000…

Django+herokuで本棚アプリ作って公開してみた

Djangoを一通り勉強してWebアプリ(っぽいもの)が作れるようになったので、復習がてら手順を一通りまとめてみました。 作ったもの 本を本棚にコメント付きでしまっておけるアプリです。 本記事では個人情報のない部分を取り出し、開発の一連の流れをまとめ…

OSSをビルドしようとした際、ライブラリが足りないといわれた際の対処法

何かしらOSSをビルドしようとした際、○○というライブラリがないといわれたことはないだろうか。その際、aptを使用すれば簡単にインストールすることができる。 例えばあるライブラリをビルドする際、以下のようなエラーで失敗したとする。 E: libssl is not …

【メモ】ソニーグループ合同 データ分析コンペティション

ソニーグループ合同 データ分析コンペティションに参加中。 signate.jp 訓練データとテストデータでサイコロの数が違うので、クラス分類などでは不可。 OpenCVの輪郭抽出でサイコロをクロッピング→画像分類→目の数を合計 で行けるのでは? →行けそうではある…

Google Apps Script で家庭内在庫管理アプリを作った

はじめに 食材やトイレットペーパなどの在庫管理がしたい。との要望を受けて、Google Apps Script で家庭内在庫管理アプリを作った。データはGoogleスプレッドシートに保存し、Webページから更新、確認可能。 なお本アプリは勉強もかねて、ほぼChatGPTで作成…

画像異常検知用の学習データ自動生成ツールを作った

初めに MVTechのような、異常検知用のデータ生成ツールをUnityで作った。ざっくりいうと、正常な部品を模擬した3Dモデルに対して以下の操作を繰り替えして、異常データを生成する。 異常データを模擬するため、3Dモデルのメッシュの一部をへこませる。 画像…

Google testのインストール、使用方法(Ubuntu 20.04)

参考 [ubuntu]Google Testの導入方法 - Qiita 業務効率化の道具箱(5)Google Testを使ってみよう【その1】:山浦恒央の“くみこみ”な話(158)(3/3 ページ) - MONOist main関数をテストしたい基地外な人のためのメモ - ひでたそ覚書帳 インストール $ sudo…

ネットワークスペシャリスト キーワード、解答例メモ

初めに ネスペに向けて、キーワード、解答例をまとめた。 参考 【ネスペ直前対策】ネットワークスペシャリスト過去問 要点まとめ【午後】 ネットワークスペシャリスト過去問道場|ネットワークスペシャリスト.com 情報処理教科書 ネットワークスペシャリスト…

確定申告のやり方(ふるさと納税、証券、貸株金利)

はじめに この記事を書いている人間は、税理士でも何でもない普通のサラリーマンです。なので、内容に誤りがある可能性があります。このページはあくまで参考としてください。 また、マイナンバーカードを持っていることが前提です。 対象 確定申告を行う対…

FX自動売買のやり方(楽天証券・無料EA)

MT4というシステムトレード用ソフトを使用した、FX自動売買の方法について説明する。本記事では楽天証券の口座で無料EAを使用して取引を行うことを想定している。 自動売買とは? 自動売買とはその字の通り、FXの売買をシステムが自動で行うことである。自動…

WindowsでOpenCV C++を使用する方法(Visual studio)

Windows Visual studio 2019からOpenCV4.6.0 C++のアプリケーションをビルドして動かす方法です。 やり方を載せているところは無数にあるので、最も簡単に動かすところまで行きたいと思います。 手順 OpenCVのインストール 以下のページから"opencv-4.6.0-vc…

Unityで自己位置推定(OBR SLAM3)やってみた

UnityでOBR SLAM3を動かしてみた。環境はWindows上でUnityを動かし、WSL上でOBR SLAM3を動かしている。 動作としては以下のような感じ。動いてはいるものの、マップ生成は全くうまくいっていない。 youtu.be 前準備 以下に通信用のコード(Linon_SDK)が置いて…

UnityのカメラからC++やPythonへ映像を転送する方法

Unityのカメラから他プロセスへ映像を転送する方法として、以下のような一般的なプロセス間通信が考えられる。 MMAP ソケット通信 RTSP この記事ではこれらの方法を解説する。ただしRTSPはGStreamerのインストール方法ができなかったのでやっていない。 MMAP…

WSLでORB SLAM3を動かす(完成版)

以前ORB SLAM3を動かしてみたが、それを参考に今回はスクラッチでやってみた。これをすべてやれば動くとこまで行くはず。何かエラーがあればコメントまで。 WSL: Ubuntu 20.04 Windows 10 ORB_SLAM3のビルド OpenCVはaptでインストールされるものだとバージ…

WSLでORB SLAM 3をビルド

WSLでSLAMを動かしてみたい、ということでビルドをしてみた。参考にしたサイトではビルドは成功したものの、画面に表示しないサンプルらしく動いているのかわからなかったので、表示されるサンプルを探した。また、画面が表示されない時に設定がおかしいんだ…

WSLにCUDAをインストール Ubuntu 20.04 CUDA 11.7

CUDAのインストールは以下を参考に進めればOK。 CUDA on WSL :: CUDA Toolkit Documentation ただし、以下のようなエラーが発生する場合がある。 $ sudo apt update Get:1 file:/var/cuda-repo-wsl-ubuntu-11-7-local InRelease [1575 B] Get:1 file:/var/cu…

WSL2でGUIアプリ使う

WSL2をインストール VcXsrv Windows X Serverをインストール XLanchを実行して、ディスプレイ番号を0、Additional parameters for VcXsrvに「-ac -nowgl」を指定する。 「Windowsファイアウォールによるアプリケーションの許可」から、VcXsrvにプライベート…

WSL2とWindowsのファイルのやり取りを500MB/sまで高速化した

概要 WSL2でホスト側のディスクへのアクセス速度が遅いので、SSHFSを使用することで読み取りが5MB/s->50MB/sに改善した。 追記: エクスプローラから、WSLに直接アクセスすることで500MB/sまで改善できた。 現状 WSL2ではホスト側のディスク(CドライブとかD…

Windows -> WSL間でMMAPをやろうとしたけどうまくいかなかったので、ファイル経由でデータの受け渡しをした

Windows -> WSL間で画像データの受け渡しをしたかったので、MMAPを使ってプロセス間通信をしようとしたが、結局うまくいかなかった。代替策としてファイル経由でデータの受け渡しをした。RAMDISKを使用したのでそれなりに速度は出る、と思う。 やったこと デ…

他プロセスから操作可能なUnity物理シミュレーション環境作った

はじめに ディープラーニングで物体検出など使えるようになってくるとシミュレーション環境で動かしたいと思うのだが、よさそうなSWが見つからなかった。それなら作ればいいじゃないかということで作った。 実際に動いている画面は以下の通り。 youtu.be 制…

クイックスタート

今回は白線に沿って自動で走行する車を作ったのでそれを動かしていく。 このページに直接来た方は以下を参照。 Pythonから操作可能な物理シミュレーション環境作った - ぼうびろく Unityの準備 以下からインストーラーを入手し、Unityをインストールする。Un…

Linuxのudevについて

Linuxでは各種デバイス(HDDとか)はデバイスファイル(/dev下にあるファイル)として存在し、各種デバイスをファイルとして扱うことができる。(このファイルのどうやって扱うのかは、デバイスドライバによって定義されている。)このデバイスファイルを操…