数値変換関数 LabVIEW


5-3

LabVIEWの数値変換関数を説明します。数値変換関数は、数値データ型を変更、ブールを数値に変更して出力します。

LabVIEW数値変換関数

変換関数の使用例

強制ドット回避

LabVIEWでは異なるデータタイプ同時を繋ぐと強制ドットが起こり、自動でデータ型を強制的に合わせます。
強制ドットが起きた箇所は赤い点が表示されます。

例:32ビット整数と小数を足し算で強制ドットが発生してデータ型が小数に変換される。

強制ドット

強制ドットはエラーにはなりませんが、メモリの使用量が多くなり実行時間が長くなったり、出力が本来の値と異なってしまうことがあります。
データ型を一致させれば、不要な強制変換を回避することができます。

例:32ビット整数に倍精度浮動小数に変換関数を使用して強制ドットを回避

強制ドット回避

オーバーフロー回避

データ型の範囲を超えた値が結果として出力された場合、オーバーフローが発生し、出力値が本来の値と異なってしまいます。

例:符号なし8ビット整数(0-255)のデータ型で255+10=9(255を超えたため、256から値が0に戻り9)
1-2=255(マイナスとなったため、-1から255になる)

データフロー

データデータ型を一致させれば、不要な強制変換を回避することができます。

例:符号なし8ビット整数(0-255)に16ビット整数(0-65535)に変換関数を使用してオーバーフローを回避

オーバーフロー回避

データ量の調整

データ型をサイズの小さい型に変換することで、扱うプログラムのデータ容量を小さくすることができます。

例:要素数10000の配列の場合、64ビット小数データ型の場合64×10000=640k、16ビット整数データ型の場合16×10000=160k

データ容量

データ範囲の大きいデータ型をしてしておけばオーバーフローは起きないが、メモリの使用量が多くなり実行時間が長くなり、負荷がかかります。
1~100要素ほどデータならば気にすることもありませんが、計測ではM(メガ:1,000,000)単位のデータを扱うこともあるので、プログラムに合わせてデータ型を設定しましょう

数値変換関数一覧

拡張浮動小数に変換

数値を128ビットの拡張精度浮動小数点数に変換します。

拡張浮動小数に変換

倍精度浮動小数に変換

数値を64ビット15桁の倍精度浮動小数点数に変換します。

倍精度浮動小数に変換

タイムスタンプの数値変換も可能です。

タイムスタンプを数値変換

単精度浮動小数に変換

数値を32ビット6桁の単精度浮動小数に変換します。

単精度浮動小数に変換

固定小数点に変換

数値を固定小数点表記に変換します。浮動小数を入力した場合、四捨五入した値を出力します。

固定小数点に変換

4倍長整数に変換

数値を-9,223,372,036,854,775,808~9,223,372,036,854,775,807の範囲の64ビット整数に変換します。

4倍長整数に変換

倍長整数に変換

数値を-2,147,483,648~2,147,483,647の範囲の32ビット整数に変換します。

倍長整数に変換

ワード整数に変換

数値を-32,768~32,767の範囲で16ビット整数に変換します。

ワード整数に変換

バイト整数に変換

数値を-128~127の範囲の8ビット整数に変換します。

バイト整数に変換

符号なし4倍長整数に変換

数値を0~18,446,744,073,709,551,615の範囲の64ビット符号なし整数に変換します。

符号なし4倍長整数に変換

符号なし倍長整数に変換

数値を0~4,294,967,295の範囲で32ビット符号なし整数に変換します。

符号なし倍長整数に変換

符号なしワード整数に変換

数値を0~65,535の範囲の16ビット符号なし整数に変換します。

符号なしワード整数に変換

符号なしバイト整数に変換

数値を0~255の範囲の8ビット符号なし整数に変換します。

符号なしバイト整数に変換

拡張精度複素数に変換

数値を拡張精度複素数に変換します。

拡張精度複素数に変換

倍精度複素数に変換

数値を倍精度複素数に変換します。

倍精度複素数に変換

単精度複素数に変換

数値を単精度複素数に変換します。

数値を単精度複素数に変換

タイプに強制変換

データ値を維持しつつ、入力データを互換性のあるデータタイプに変換します。

タイプに強制変換

数値をブール配列に変換

整数をブール配列(0:FALSE、1:TRUE)に変換します。

例:101(2進数)を配列(TRUE,FALSE,TRUE)に変換

数値をブール配列に変換

ブール配列を数値に変換

ブール配列を、FALSEを0、TRUEを1としてバイナリ表記(2進数)と解釈して数値に変換します。

例:配列(TRUE,FALSE,TRUE)を5(2進数で101)に変換

ブール配列を数値に変換

ブールから(0,1)に変換

ブールをFALSEを0、TRUEを1の16ビット整数に変換します。

ブールから(0,1)に変換

タイムスタンプに変換

数値をタイムスタンプに変換します。1904/01/01 9:00:00.000を数値の0始点とします。

タイムスタンプに変換

文字列をバイト配列に変換

文字列を符号なしのバイトの配列に変換します。バイト値はASCIIコードに対応します。

例:A1はA:65、1:49に変換

文字列をバイト配列に変換

バイト配列を文字列に変換

ASCII文字を表す符号なしバイト配列を文字列に変換します。

バイト配列を文字列に変換

単位変換

単位を持つ数値を単位に合わせて変換します。

例:100をms(ミリ秒)単位に変換して0.1s(秒)

単位変換

基本単位をキャスト

入力に関連する基本単位を単位に関連する基本単位に変更して、出力端子に結果を返します。

例:123000ms(ミリ秒)の数値はs(秒)単位の数値に変換して123s(秒)

基本単位をキャスト

色をRGBに変換

入力した色を赤、緑、青の0~255要素としてRGB形式に変換します。

例:紫色を入力してR:255、G:0、B:255が出力

色をRGBに変換

RGBを色に変換

0~255で表された赤、緑、青の値を対応するRGBカラーに変換します。

例:R:255、G:0、B:255を入力して紫色が出力

RGBを色に変換

列挙体から列挙体配列

列挙体の値と同じ数の要素を持つ列挙体の配列を作成します。

例:列挙体(A,B,C)を入力して、配列(A,B,C)を出力

列挙体から列挙体配列
前ボタン
前の講座
トップボタン
LabVIEW基本講座TOP
次ボタン
次の講座


前の記事

数値関数 LabVIEW

次の記事

ブール関数 LabVIEW