fixed-point numberとは 意味・読み方・使い方

To provide a data processing apparatus and method for converting a number between fixed-point and floating-point representations.例文帳に追加

固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法を提供する。 - 特許庁

To provide a data processing device and method converting a number between a fixed point display and a floating point display.例文帳に追加

固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法を提供する。 - 特許庁

To provide a vector operation method for a floating-point number which is reduced in processing required for vector product operation of floating-point number and enables applying of arithmetic operation by a fixed-point type DSP.例文帳に追加

浮動小数点数のベクトル積演算に必要な処理が軽減され、固定小数点型ＤＳＰによる演算処理が適用できるようにした浮動小数点数のベクトル演算方法を提供すること。 - 特許庁

Also, the number of digits of the fixed point display decimal part is defined as the precisely guaranteed minimum number of digits, and when the decimal point is extracted (106), the decimal part is extracted by mask processing with the precisely guaranteed minimum number of bits.例文帳に追加

また、固定小数点表示の小数部の桁数を、精度保証される最少の桁数とし、小数部抽出（１０６）の際に、精度保証される最少のビット数のマスク処理により小数部を抽出する。 - 特許庁

The apparatus determines candidate points by repeating processing to each image of a predetermined number of frames, adds one to the candidate number count if the coordinates are the same as those of the stored candidate points, and determines the candidate point, as the fixed feature point, of which the candidate number count becomes not smaller than a predetermined value to eliminate the fixed feature point from the feature point extracted from the latest image.例文帳に追加

所定フレーム分の各画像に対して処理を繰り返して候補点を判定し、記憶した候補点と座標が同一であれば候補数カウントに１を加算し、候補数カウントが所定値以上となった候補点を固定特徴点として決定し、最新の画像から抽出された特徴点から固定特徴点を除去する。 - 特許庁

To provide a state estimation device and the like which can suppress a calculation amount and avoid operation failure in a Kalman filter operation by performing an operation using a fixed-point number while adjusting its fixed-point position.例文帳に追加

カルマンフィルターの演算において、固定小数点数を用い、固定小数点位置を調整しながら演算を行うことにより、計算量を抑えつつ、演算の破綻を回避できる状態推定装置等の提供。 - 特許庁

To adjust the position of bit width in accordance with a signal value in converting a multicarrier signal from a floating point number to a fixed point number.例文帳に追加

マルチキャリア信号に対して、浮動小数点数から固定小数点数への変換を実行する場合に、信号の値に応じてビット幅の位置を調節したい。 - 特許庁

The bit conversion part 34 converts the multicarrier signal from a floating point number to a fixed point number while using the determined position of the bit width.例文帳に追加

また、ビット変換部３４は、決定したビット幅の位置を使用しながら、浮動小数点数から固定小数点数へマルチキャリア信号を変換する。 - 特許庁