آشنایی با شیب و تمایز خودکار

مشاهده در TensorFlow.org

در Google Colab اجرا شود

مشاهده منبع در GitHub

دانلود دفترچه یادداشت

تمایز خودکار و گرادیان

تمایز خودکار برای پیاده سازی الگوریتم های یادگیری ماشین مانند انتشار پس زمینه برای آموزش شبکه های عصبی مفید است.

در این راهنما، راه‌هایی برای محاسبه گرادیان با TensorFlow، به‌ویژه در اجرای مشتاق، بررسی خواهید کرد.

برپایی

import numpy as np
import matplotlib.pyplot as plt

import tensorflow as tf

شیب محاسباتی

برای تمایز خودکار، TensorFlow باید به خاطر داشته باشد که در طول پاس رو به جلو چه عملیاتی به چه ترتیبی اتفاق می‌افتد. سپس، در طول گذر به عقب ، TensorFlow این لیست از عملیات را به ترتیب معکوس طی می کند تا گرادیان ها را محاسبه کند.

نوارهای گرادیان

tf.GradientTape API tf.GradientTape را برای تمایز خودکار فراهم می کند. یعنی محاسبه گرادیان یک محاسبات با توجه به برخی ورودی‌ها، معمولا tf.Variable . متغیر s. TensorFlow عملیات مربوطه اجرا شده در متن یک